Pesquisadores que ajudaram a desenvolver a
inteligência artificial alertam para os riscos de sistemas cada vez mais
autônomos
A inteligência artificial avança em velocidade
impressionante. Sistemas já são capazes de escrever, programar, produzir
imagens, analisar informações e executar tarefas complexas. Mas, dentro das
próprias empresas que desenvolvem essa tecnologia, cresce uma preocupação: será possível controlar máquinas que se
tornarem muito mais inteligentes do que os seres humanos?
O alerta ganhou destaque após a saída do
pesquisador Jacob Coxon
da Anthropic. Antes, ele também havia trabalhado na OpenAI, duas das principais
empresas do setor. Em entrevista ao jornal francês Le Monde, Coxon explicou que decidiu deixar a
indústria por considerar preocupante a atual corrida em direção a sistemas de
inteligência artificial cada vez mais poderosos.
Segundo o pesquisador, alguns profissionais da
área acreditam que uma inteligência artificial avançada poderia representar um
risco extremo para a humanidade ainda nesta década.
O perigo da superinteligência
O temor não está necessariamente nos sistemas
que utilizamos atualmente, mas em uma possível futura superinteligência artificial
— uma máquina capaz de superar os seres humanos em praticamente todas as
tarefas intelectuais.
Um dos cenários mais discutidos é o chamado autoaperfeiçoamento recursivo.
Em teoria, uma inteligência artificial poderia ajudar seus próprios
desenvolvedores a criar uma versão mais avançada de si mesma. Essa nova versão
poderia desenvolver outra ainda mais poderosa, acelerando o processo.
Não significa que isso necessariamente
acontecerá. O problema é que, caso aconteça, a velocidade de evolução poderia
superar a capacidade humana de acompanhar e controlar o processo.
O problema do alinhamento
Um dos maiores desafios da segurança da IA é
conhecido como “alinhamento”:
garantir que os objetivos de uma máquina permaneçam compatíveis com os
interesses humanos.
Uma inteligência artificial não precisaria
desenvolver ódio ou consciência para representar perigo. Bastaria que recebesse
um objetivo e encontrasse uma maneira inesperada de cumpri-lo.
Quanto mais poderosa for a máquina, maior
poderá ser a dificuldade de prever todas as consequências de suas decisões.
O pesquisador Evan Hubinger, da Anthropic, também já
manifestou preocupação com esse cenário e considera possível que uma
inteligência artificial avançada possa representar uma ameaça existencial à
humanidade.
Essas avaliações, entretanto, são previsões de especialistas e não fatos
comprovados. Não existe consenso científico de que a IA
provocará uma catástrofe ou que a humanidade perderá o controle sobre ela.
Uma corrida tecnológica
Outro problema é a competição entre empresas e
países.
OpenAI, Anthropic, Google, Meta, empresas
chinesas e inúmeras startups disputam a liderança no desenvolvimento da próxima
geração de inteligência artificial.
Nesse ambiente, existe o risco de que cada
empresa se sinta pressionada a avançar rapidamente para não ficar atrás dos
concorrentes.
Surge então uma questão fundamental:
é melhor ser o primeiro
a desenvolver uma tecnologia extremamente poderosa ou garantir primeiro que ela
seja segura?
Para Coxon e outros pesquisadores preocupados
com segurança, essa pergunta deveria receber tanta atenção quanto os avanços
tecnológicos.
O futuro ainda está em aberto
A inteligência artificial poderá trazer
benefícios extraordinários para a humanidade. Pode contribuir para pesquisas
científicas, medicina, educação, produtividade e desenvolvimento tecnológico.
Mas seu potencial também exige
responsabilidade.
A saída de um pesquisador que trabalhou
diretamente na OpenAI e na Anthropic mostra que o debate não é apenas externo. Ele também acontece dentro dos próprios
laboratórios que estão construindo a tecnologia.
Não sabemos se a superinteligência será criada,
quando isso poderá acontecer ou quais seriam suas consequências.
Sabemos, porém, que quanto mais poderosas forem
as máquinas, maior será a responsabilidade de seus criadores.
O verdadeiro desafio talvez não seja apenas
criar uma inteligência artificial cada vez mais inteligente.
Será garantir que ela
continue sob controle humano.
Fonte: Le Monde, reportagem
publicada em 9 de setembro de 2026 sobre a saída do pesquisador Jacob Coxon da
Anthropic e os riscos associados ao desenvolvimento de sistemas avançados de
inteligência artificial.
Adaptação e edição: O Malhete — Informativo Maçônico e
Cultural.
0 Comentários