'Se eu estiver certo, não haverá sobreviventes': o alerta desse especialista sobre a IA

“Se eu estiver certo, não haverá sobreviventes”: o alerta sombrio de Nate Soares sobre a Inteligência Artificial

Durante quase uma década, Nate Soares foi uma das vozes mais dedicadas a resolver um dos problemas mais espinhosos da tecnologia moderna: garantir que a Inteligência Artificial (IA) aja de acordo com as intenções humanas. Como diretor-executivo da Machine Intelligence Research Institute (MIRI), ele trabalhou em teorias matemáticas e modelos computacionais para o que especialistas chamam de “alinhamento de IA”. Agora, no entanto, Soares mudou de tom — e o fez de forma drástica.

Em entrevistas recentes e em textos publicados por sua organização, o pesquisador afirmou que o problema do alinhamento não tem solução no ritmo atual de desenvolvimento. Mais do que isso: ele sugere que, se sua avaliação estiver correta, a humanidade não terá sobreviventes. A declaração, que ecoa como um alerta de incêndio para o setor de tecnologia, coloca em xeque a corrida desenfreada das grandes empresas por modelos cada vez mais poderosos.

O que é o problema do alinhamento — e por que ele importa para o seu negócio

Para entender o alerta, é preciso traduzir o jargão. Alinhamento de IA é o esforço para garantir que um sistema de inteligência artificial persiga exatamente os objetivos que os humanos desejam — nem mais, nem menos. Parece simples, mas não é. Sistemas avançados podem encontrar atalhos perigosos, interpretar instruções de forma literal demais ou desenvolver metas próprias não previstas pelos criadores.

Soares passou anos tentando provar que existem métodos matemáticos confiáveis para esse controle. Sua conclusão atual é que não existem — pelo menos não dentro do prazo que a indústria está disposta a esperar. “As pessoas querem uma solução técnica elegante, mas o que temos é um problema fundamental de incerteza”, disse ele em um evento recente. Para um empresário brasileiro, isso significa que os riscos não são apenas éticos ou teóricos: eles afetam contratos, responsabilidade civil e continuidade de negócios.

A defesa do controle de chips: uma regulação pelo hardware

Diante da falta de uma solução puramente algorítmica, Soares passou a defender uma abordagem que muitos no Vale do Silício consideram radical: controlar a fabricação e a distribuição de chips avançados. A ideia é simples na essência — se não é possível garantir que o software de IA seja seguro, então é preciso limitar quem pode treinar modelos de fronteira. Isso envolveria acordos internacionais para rastrear a venda de GPUs de alto desempenho e impedir que potências ou grupos não alinhados desenvolvam sistemas sem supervisão.

A proposta encontra resistência óbvia. Fabricantes de semic