Investigador abandona sector da IA e alerta: “Estão a jogar com as nossas vidas”

Segundo o investigador, o ritmo de desenvolvimento está a aproximar os sistemas de um ponto em que poderão piratear sistemas, transformar sectores inteiros de um dia para o outro e adquirir poder e recursos reais

Um investigador de 27 anos, que passou três anos a desenvolver sistemas utilizados por alguns dos modelos de inteligência artificial mais avançados do mundo, abandonou o sector, alertando que as empresas estão a “jogar com as nossas vidas”. Jacob Coxon demitiu-se da Anthropic a 8 de Setembro, depois de também ter trabalhado na OpenAI, e explicou a sua decisão num longo fio publicado na rede social X.

Coxon afirmou que as principais empresas de IA “não estão a agir de forma responsável” e que estão a avançar directamente para uma superinteligência capaz de se melhorar a si própria. Segundo o investigador, o ritmo de desenvolvimento está a aproximar os sistemas de um ponto em que poderão piratear sistemas, transformar sectores inteiros de um dia para o outro e adquirir poder e recursos reais.

O antigo investigador da Anthropic defendeu ainda que muitos profissionais envolvidos no desenvolvimento desta tecnologia receiam, em privado, que a IA possa representar uma ameaça fatal para a humanidade. Na sua perspectiva, alguns executivos evitam assumir publicamente esses receios ou adoptam uma linguagem mais moderada quando falam sobre os riscos da tecnologia.

“As pessoas que constroem sistemas de IA acreditam sinceramente que estes podem matar-nos a todos até ao fim da década”, afirmou Coxon, acrescentando que os responsáveis das empresas tendem a suavizar estas preocupações na comunicação social, apesar de reconhecerem internamente a possibilidade de cenários extremos.

As declarações surgem num momento em que outros responsáveis do sector também têm alertado para os riscos da inteligência artificial avançada. Dario Amodei, cofundador da Anthropic, tem defendido que uma IA poderosa poderá ser utilizada por Estados autoritários para reforçar sistemas de vigilância e controlo. Mais recentemente, alertou que o desenvolvimento da superinteligência poderá representar um dos maiores desafios já enfrentados pela humanidade.

Fonte:

Tópicos relacionados: Segurança Tecnologia IA