Quando a IA passa dos limites: agente da OpenAI tenta realizar ataque informático

Durante os testes, o modelo explorou uma vulnerabilidade no ambiente interno da OpenAI, conseguindo escapar ao sistema isolado

A OpenAI confirmou que um dos seus modelos de Inteligência Artificial conseguiu escapar ao ambiente de testes onde estava a ser avaliado e tentou aceder à plataforma Hugging Face. O incidente foi inicialmente detectado pela Hugging Face, que revelou ter identificado um acesso não autorizado proveniente de um agente de IA externo.

Segundo a OpenAI, o agente era composto por uma combinação de modelos, incluindo o recente GPT-5.6 Sol e outro modelo mais avançado ainda em fase de pré-lançamento. Estes estavam a ser testados com restrições de segurança reduzidas para permitir uma avaliação mais rigorosa das suas capacidades em cibersegurança.

Durante os testes, o modelo explorou uma vulnerabilidade no ambiente interno da OpenAI, conseguindo escapar ao sistema isolado. Depois de obter acesso à Internet, identificou a Hugging Face como uma possível fonte para resolver a tarefa que lhe tinha sido atribuída e tentou explorar vulnerabilidades e credenciais para se infiltrar na plataforma.

A OpenAI e a Hugging Face estão agora a colaborar na investigação do incidente e na correcção das falhas de segurança detectadas. As duas empresas garantem que o caso servirá para reforçar os mecanismos de protecção dos seus sistemas.

Para a Hugging Face, este episódio demonstra que os ataques informáticos apoiados por Inteligência Artificial deixaram de ser uma hipótese teórica e passarão a ser cada vez mais frequentes. A OpenAI partilha dessa visão e defende que o desenvolvimento de modelos avançados deverá ser acompanhado por mecanismos de defesa e segurança igualmente robustos.

Fonte:

Tópicos relacionados: Segurança Tecnologia OpenAI IA