Ex-pesquisador da Anthropic diz que IA traz riscos que a própria indústria ainda não compreende

Ele fez a afirmação durante audiência na Câmara Municipal de Nova York, em encontro no qual legisladores e executivos de empresas de IA debateram possíveis formas de conter os riscos da tecnologia.

“Ainda não sabemos como controlar nenhum sistema de inteligência artificial”, disse Coxon durante o depoimento.

Entre as propostas em análise pelos legisladores está a instalação do chamado “botão de desligamento”, pensado para interromper sistemas de IA que apresentam comportamento fora de controle.

Coxon concordou com a eficácia desse recurso, mas afirmou que teria alcance limitado no longo prazo, em termos de segurança. “O que precisamos é desacelerar o desenvolvimento da IA de fronteira [modelos mais avançados]”, afirmou ele.

Alguns executivos do setor e o presidente americano, Donald Trump, consideram que a melhor solução é a autorregulação do setor, o que não encontra respaldo entre a maioria dos legisladores de Nova York.

Coxon deixou a Anthropic no mês passado, alertando que a IA poderia se tornar poderosa demais para ser controlada pelos seres humanos e acusando sua antiga empregadora e a OpenAI de “apostarem nossas vidas” com a tecnologia.

Jacob Coxon, ex-pesquisador da Anthropic, voltou a alertar sobre o descontrole da IA

X/Reprodução