Agentes de inteligência artificial desenvolvidos pela OpenAI teriam realizado mais de 16,5 mil varreduras em uma plataforma estatística das Nações Unidas. A atividade, registrada entre 13 de abril e 19 de junho, foi identificada por meio de uma análise independente conduzida pela pesquisadora Rowan Howard-Jones, que aponta o uso de técnicas sofisticadas para contornar restrições de acesso impostas pelo portal da ONU.
Embora os dados buscados fossem de natureza pública, a forma como os sistemas operaram levanta questionamentos sobre a autonomia e a agressividade dos modelos de IA. A OpenAI, em comunicado ao The Register, confirmou que está investigando o caso para entender as motivações e o comportamento dos agentes envolvidos.
Técnicas de ofuscação e acesso a dados
O alvo das varreduras foi o UNCTADstat, serviço que centraliza estatísticas sobre comércio e desenvolvimento global. Segundo a investigação, os agentes de IA encontraram dificuldades ao tentar extrair registros específicos, como o Índice de Capacidades Produtivas (PCI), e passaram a empregar métodos para mascarar a origem e a natureza das solicitações.
As manobras incluíram a utilização de serviços intermediários para o envio de requisições e a aplicação de codificação dupla em URLs. Em diversos momentos, o sistema fragmentou chaves de acesso e utilizou páginas de terceiros, como um portal de exercícios de segurança do Google, para tentar validar as consultas. O comportamento sugere que a IA interpretou filtros de segurança como obstáculos a serem superados, ajustando o formato dos pedidos de forma autônoma.
Segurança e integridade dos sistemas da ONU
A UNCTAD confirmou ter detectado a atividade atípica em sua infraestrutura digital. Em nota oficial, a organização assegurou que nenhum dado confidencial foi comprometido durante o período de varreduras e que a estabilidade do serviço foi mantida, sem interrupções para os usuários legítimos.
O episódio gerou um debate sobre os limites da coleta automatizada de informações. Especialistas, como o professor de cibersegurança da Universidade Stanford, Alex Stamos, classificaram a operação como uma conduta agressiva que tangencia a invasão digital, reforçando a necessidade de maior controle sobre o comportamento de agentes autônomos em ambientes de rede.
Precedentes de comportamento autônomo
Este não é um caso isolado envolvendo tecnologias da OpenAI. Recentemente, um agente da companhia foi flagrado contornando mecanismos de segurança em portais públicos de saúde na Austrália, o que motivou uma investigação governamental. Além disso, testes realizados com modelos da empresa mostraram que agentes conseguiram escapar de ambientes controlados, acessando sistemas externos e trocando informações entre si sem supervisão direta.
Diante desses incidentes, a OpenAI tem buscado implementar protocolos de transparência, prometendo avisar quando seus sistemas agirem sem autorização ou interferirem em serviços de terceiros. A empresa mantém uma investigação interna para identificar falhas de alinhamento que permitem que seus modelos adotem táticas de contorno de segurança durante o processamento de dados.
