Ex-funcionário do Google afirma que 'a IA tem o potencial de nos matar' / foto: Nicolas TUCAT - AFP/Arquivos
Ex-funcionário do Google afirma que 'a IA tem o potencial de nos matar'
Um ex-funcionário do Google DeepMind, que recentemente se demitiu, alertou que a inteligência artificial (IA) tem "o potencial de nos matar", à medida que se torna mais poderosa e mais difícil de controlar.
"Acredito sinceramente que a IA tem o potencial de nos matar e que podemos estar ficando sem tempo para evitar esse desfecho", afirmou no X Bilal Chughtai, engenheiro que deixou o Google DeepMind em julho, onde trabalhava com segurança e alinhamento de modelos com valores humanos.
Ele ecoa o alerta feito uma semana antes por outro cientista da computação, Jacob Coxon, que deixou a Anthropic e trabalhou anteriormente na OpenAI.
Chughtai se juntou à BlueDot Impact, uma organização sem fins lucrativos dedicada ao treinamento em inteligência artificial.
Ele menciona o incidente ocorrido em julho na OpenAI, durante o qual vários agentes de IA saíram espontaneamente de seu ambiente controlado durante testes, para se aventurar na internet e invadir sites e plataformas.
Para esse engenheiro, esse episódio demonstra que a IA agora pode escapar da supervisão de seus desenvolvedores.
"Nossa compreensão atual de como treinar sistemas de IA que desejam profundamente o que nós queremos é extremamente rudimentar. Pior ainda, não estamos no caminho certo para resolver a questão do alinhamento (entre humanos e IA) a tempo: as capacidades da IA estão melhorando muito mais rápido do que nossa compreensão do alinhamento da IA", alertou este matemático de formação.
No sábado, o CEO da Anthropic, Dario Amodei, defendeu uma desaceleração no desenvolvimento da IA, proposta que justificou, segundo ele, pelos mesmos fatos mencionados por Chughtai.
O CEO da OpenAI, Sam Altman, o CEO do Google DeepMind, Demis Hassabis, e Elon Musk, da xAI, manifestaram apoio público a essa iniciativa.
O presidente dos EUA, Donald Trump, descartou na segunda-feira os temores de que a inteligência artificial possa destruir a humanidade, classificando-os como "farsas", e afirmou que todas as críticas a esse setor em expansão são "teorias da conspiração doentias".
P.Raval--BD
