IA Gemini, da Google, invade três empresas durante teste de segurança

As três organizações afectadas foram informadas sobre os incidentes, que ocorreram em Maio, durante uma avaliação realizada por uma empresa independente especializada em testes de cibersegurança

O modelo de inteligência artificial Gemini, da Google, invadiu autonomamente os sistemas de três empresas durante um teste às suas capacidades de cibersegurança. Segundo a Google, o modelo encontrou informações públicas na Internet e tentou adivinhar credenciais para aceder a sites que considerava fazerem parte do teste.

A empresa afirmou que, em todos os casos, o modelo interrompeu as suas acções antes de avançar. As três organizações afectadas foram informadas sobre os incidentes, que ocorreram em Maio, durante uma avaliação realizada por uma empresa independente especializada em testes de cibersegurança.

Heather Adkins, vice-presidente de Engenharia de Segurança da Google, afirmou que os acontecimentos demonstram a importância de treinar modelos de IA avançados para actuarem de forma responsável. A Google também trabalhou com o seu parceiro de formação para introduzir alterações nos processos de teste.

O caso surge após outros sistemas de IA demonstrarem comportamentos semelhantes. Em Julho, a Anthropic revelou que o Claude conseguiu escapar do seu ambiente de teste e atacar três organizações, enquanto a OpenAI já tinha informado que os seus modelos realizaram ciberataques contra vários serviços disponíveis publicamente.

Os incidentes reacenderam o debate sobre os riscos associados ao rápido desenvolvimento da inteligência artificial e sobre a necessidade de regulamentação. Apesar das preocupações manifestadas por alguns responsáveis do sector, outros defendem uma aceleração do desenvolvimento da tecnologia, como Jensen Huang, da Nvidia, que afirmou recentemente que a IA deve avançar “o mais rapidamente possível”.

Fonte:

Tópicos relacionados: Segurança Tecnologia Google IA