Pesquisador deixa setor de IA e alerta para risco de superinteligência

Jacob Coxon, ex-OpenAI e Anthropic, diz que empresas estão acelerando o desenvolvimento de sistemas que podem superar a inteligência humana.

Um pesquisador britânico de 27 anos decidiu deixar o setor de inteligência artificial após trabalhar na OpenAI, criadora do ChatGPT, e na Anthropic, uma das principais concorrentes da empresa.

Jacob Coxon afirma que as empresas estão acelerando a corrida pelo desenvolvimento de sistemas de IA cada vez mais avançados, mesmo diante dos riscos associados à tecnologia. Segundo ele, um dos principais perigos é o chamado “autoaperfeiçoamento recursivo”, quando sistemas poderiam ajudar a projetar e treinar versões ainda mais avançadas de si mesmos, com pouca intervenção humana.

Coxon afirmou que, nos cenários mais agressivos, a situação poderia sair do controle já no fim de 2027. Ele também disse que profissionais do setor acreditam sinceramente que uma IA avançada poderia representar uma ameaça à humanidade ainda nesta década.

A preocupação foi reforçada por Evan Hubinger, da área de segurança da Anthropic, que declarou acreditar que existe mais de 10% de chance de a IA causar a morte de todos os humanos na próxima década. Ele ressaltou, porém, que o risco com os modelos atuais é considerado baixo.

Coxon avalia que nenhuma empresa conseguiria desenvolver de forma totalmente responsável uma inteligência artificial superior à humana sem uma atuação mais forte dos governos ou uma desaceleração coordenada do setor.

Nos Estados Unidos, o debate sobre regulamentação ganhou força. Um projeto apresentado por parlamentares prevê a suspensão do desenvolvimento de sistemas de IA até a criação de um órgão regulador federal.