A inteligência artificial ainda não demonstrou capacidade autônoma para exterminar a humanidade, mas já reduziu o conhecimento, o tempo e o número de pessoas necessários para executar tarefas que podem causar danos em escala. Relatos de uso do Claude em sistemas de mísseis, pesquisas com possível aplicação biológica e ataques cibernéticos revelam que o perigo deixou de ser apenas uma hipótese sobre máquinas do futuro: parte dele já existe, embora seja diferente do apocalipse anunciado por alguns pesquisadores.
📳Clique aqui para seguir o canal do JOL RN no WhatsApp
O risco existe, mas precisa ser dividido em categorias
A discussão costuma misturar três ameaças que não possuem o mesmo grau de comprovação. A primeira é o uso deliberado da IA por seres humanos para cometer crimes, desenvolver armas, espalhar desinformação ou atacar sistemas digitais. Há episódios documentados pelas próprias empresas de tecnologia que tornam esse perigo concreto.
A segunda envolve sistemas autônomos que recebem um objetivo, executam tarefas, utilizam ferramentas e tomam decisões intermediárias sem acompanhamento humano constante. Quanto maior a autonomia, maior a possibilidade de um erro, uma instrução ambígua ou uma estratégia imprevista produzir consequências fora do ambiente controlado.
A terceira é o chamado risco existencial: a possibilidade de uma inteligência superior aos humanos conquistar recursos, escapar de mecanismos de contenção e agir de modo incompatível com a sobrevivência da espécie. Esse cenário não foi demonstrado no mundo real. Trata-se de uma projeção sustentada por pesquisadores da área, contestada por outros nomes da indústria e impossível de quantificar com segurança no estágio atual.
Tratar as três ameaças como se fossem uma só produz dois erros. O alarmismo apresenta previsões como acontecimentos inevitáveis. A complacência usa a ausência de uma “superinteligência rebelde” para ignorar danos que já podem ser observados.
Claude teria auxiliado projetos de mísseis e pesquisas biológicas
Um relatório da Anthropic, empresa responsável pelo Claude, reuniu casos de uso indevido identificados durante oito meses. Segundo a companhia, o modelo teria sido empregado em atividades relacionadas a armas de fogo, drones, bombas e sistemas de mísseis, além de ciberataques e possíveis pesquisas com finalidade biológica.
Em um dos episódios, ocorrido no norte do Iêmen, o Claude teria sido utilizado para desenvolver programas de orientação de mísseis e controle de voo. Os responsáveis dividiram o trabalho entre conversas independentes, impedindo que cada instância do modelo reconhecesse o objetivo completo. Algumas solicitações foram bloqueadas, mas outras ultrapassaram as barreiras de segurança.
A técnica expõe uma fragilidade central dos filtros atuais. Um sistema pode recusar um pedido explícito para construir uma arma e, ainda assim, fornecer códigos, cálculos e análises aparentemente isolados que, reunidos por um operador humano, componham o mesmo projeto.
A Anthropic afirma não ter encontrado evidências de que o armamento tenha funcionado. A reportagem da Superinteressante associa o episódio, por inferência geográfica e política, aos houthis, grupo apoiado pelo Irã, mas o relatório não identifica explicitamente os envolvidos. Portanto, o caso sustenta a existência de uma tentativa e de falhas parciais nas salvaguardas, não a conclusão de que uma IA já tenha produzido um míssil operacional.
O uso biológico mostra como a intenção pode ficar escondida
Outro usuário pediu ao Claude que redigisse uma solicitação de financiamento para modificar geneticamente o vírus da chikungunya. O projeto previa submetê-lo a infecções sucessivas em animais vivos, aumentando progressivamente sua capacidade de transmissão.
Uma versão alterada de um vírus que já circula na natureza poderia dificultar a distinção entre ataque deliberado e surto comum. A preocupação aumentou porque, segundo a Anthropic, o pedido estava relacionado a um instituto militar de pesquisa. A conta foi banida.
Ainda assim, o episódio comporta uma ressalva decisiva: técnicas semelhantes também podem ser empregadas em pesquisas legítimas, inclusive no desenvolvimento de vacinas. A empresa não conseguiu determinar a intenção do usuário. O caso demonstra que a IA pode facilitar etapas intelectuais de uma pesquisa de uso duplo, mas não comprova a fabricação de uma arma biológica.
Essa ambiguidade torna a contenção especialmente difícil. O mesmo conhecimento capaz de auxiliar a medicina pode ser aproveitado para produzir patógenos mais perigosos. Bloquear todas as informações relacionadas impediria trabalhos científicos legítimos; liberar cada fragmento técnico permitiria que agentes mal-intencionados montassem o projeto por etapas.
O perigo mais imediato ainda depende de seres humanos
Até agora, as evidências mais sólidas não mostram uma IA desenvolvendo vontade própria e decidindo atacar pessoas. Mostram governos, grupos armados, criminosos e empresas utilizando modelos para ampliar capacidades que já possuíam.
A IA pode escrever código, analisar vulnerabilidades, adaptar mensagens de fraude, traduzir materiais, organizar grandes volumes de dados e repetir operações em velocidade superior à de uma equipe humana. Ela não precisa “querer” causar uma catástrofe para participar dela. Basta que alguém com intenção destrutiva transforme o modelo em ferramenta.
Essa mudança altera a escala do risco. Um agente pouco qualificado pode receber assistência técnica que antes exigiria programadores, engenheiros ou pesquisadores especializados. Organizações capazes de contratar esses profissionais podem automatizar partes do trabalho, realizar mais tentativas e operar simultaneamente contra vários alvos.
A ameaça, portanto, não nasce apenas da inteligência do sistema. Surge da combinação entre capacidade técnica, acesso a ferramentas, autonomia operacional, intenção humana e dificuldade de fiscalização.
Avanços científicos revelam a velocidade da mudança
Os mesmos modelos relacionados a episódios de abuso também vêm sendo usados para tarefas científicas que, até recentemente, consumiriam anos de trabalho humano. Um protótipo do Claude transformou a prova do Último Teorema de Fermat em uma formalização computacional com mais de 13 milhões de linhas, segundo a Anthropic. O processo teria levado 11 dias.
O Claude não solucionou o teorema, demonstrado pelo matemático Andrew Wiles em 1994. O sistema converteu a prova existente para a linguagem Lean, permitindo que seu encadeamento lógico fosse verificado por computador. O trabalho permaneceu apoiado em bibliotecas submetidas à curadoria humana, mas revelou uma capacidade extraordinária de executar uma tarefa que poderia demandar anos de esforço coletivo.
A OpenAI, por sua vez, afirmou ter encontrado uma solução para o problema da existência e suavidade das equações de Navier-Stokes, um dos sete Problemas do Milênio. A operação teria mobilizado cerca de 10 mil agentes de IA durante 88 horas, com 4,9 bilhões de mensagens e aproximadamente 300 bilhões de tokens.
A alegação ainda não havia sido confirmada por matemáticos independentes nem pelo Instituto Clay. Isso impede tratar o problema como definitivamente resolvido. Mesmo assim, o experimento mostra o que muda quando milhares de agentes artificiais podem explorar hipóteses, escrever códigos e compartilhar resultados ao mesmo tempo.
Essa capacidade não é perigosa por natureza. Ela pode acelerar descobertas médicas, matemáticas e tecnológicas. Mas o mesmo aumento de produtividade pode reduzir o tempo necessário para encontrar vulnerabilidades digitais, aperfeiçoar armamentos ou explorar combinações biológicas de risco.
Pesquisadores falam em extinção, mas não conseguem medir a probabilidade
Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, afirmou à BBC acreditar que a manutenção do ritmo atual de desenvolvimento cria uma “grande chance” de morte de toda a humanidade em um futuro próximo. Segundo ele, funcionários das empresas estariam assustados, revendo planos de vida e considerando medidas para enfrentar uma possível instabilidade social.
Evan Hubinger, cientista ligado à Anthropic, estimou em mais de 10% o risco de uma IA matar todos os seres humanos na próxima década. Geoffrey Hinton, um dos pioneiros da área, declarou que uma probabilidade de 10% não seria absurda.
Esses números não resultam de uma frequência observável, porque a humanidade nunca enfrentou um evento comparável. Também não derivam de um modelo estatístico capaz de testar quantas vezes uma superinteligência escaparia ao controle em condições equivalentes. São avaliações pessoais de pesquisadores que acompanham a tecnologia, possuem acesso privilegiado ao seu desenvolvimento, mas não conseguem transformar a percepção em cálculo verificável.
Marc Warner, diretor da empresa de segurança Faculty AI, reconheceu a sinceridade dos alertas, porém afirmou ser extremamente difícil estabelecer essa probabilidade. Clement Delangue, presidente da plataforma Hugging Face, questionou se Coxon possuía a especialização adequada para estimar riscos de extinção. Jensen Huang, presidente da Nvidia, classificou a possibilidade de a IA acabar com a humanidade como absurda.
Nenhuma dessas reações encerra a discussão. O envolvimento direto com o desenvolvimento dos modelos não torna uma previsão automaticamente verdadeira; tampouco o interesse comercial na expansão da tecnologia transforma a negativa em prova de segurança.
Como uma IA poderia escapar do controle
O cenário existencial pressupõe sistemas muito mais capazes e autônomos do que os chatbots usados cotidianamente. Em vez de apenas responder a perguntas, esses modelos conseguiriam planejar operações longas, escrever e executar programas, obter recursos computacionais, distribuir cópias de si mesmos e manipular pessoas ou outros sistemas para atingir uma meta.
O perigo não exigiria ódio, consciência ou desejo de sobrevivência semelhantes aos humanos. Um sistema orientado para cumprir determinado objetivo poderia tentar evitar seu desligamento apenas porque permanecer ativo facilitaria a execução da tarefa. Poderia esconder ações, contornar restrições ou adquirir recursos como estratégias instrumentais.
Há experimentos e relatos de comportamentos inesperados que justificam investigação, mas eles ainda não demonstram que um modelo disponível tenha conquistado autonomia duradoura fora de ambientes controlados. Existe uma distância factual entre produzir ações não previstas em um teste e possuir capacidade para dominar redes, infraestrutura, governos ou arsenais.
Essa distância pode diminuir com modelos mais poderosos, maior autonomia e acesso a ferramentas externas. Pode também permanecer grande devido a limitações técnicas, controles físicos, fiscalização humana e dificuldade de operar no mundo material. Hoje, não há base para afirmar com certeza qual dessas trajetórias prevalecerá.
As empresas têm incentivos para alertar e continuar avançando
O debate fica mais difícil porque as companhias que descrevem os riscos são as mesmas que disputam capital, profissionais, infraestrutura e liderança no mercado. Elas afirmam que a tecnologia pode ameaçar a humanidade, mas continuam treinando sistemas mais capazes porque uma paralisação unilateral entregaria vantagem aos concorrentes.
Essa corrida cria um incentivo previsível: cada empresa considera perigoso desacelerar sozinha. A solução proposta passa a depender de um acordo entre rivais, governos democráticos e China — justamente os atores que possuem interesses econômicos e estratégicos divergentes.
Os alertas também podem produzir benefícios para as maiores companhias. Regras que exijam bilhões de dólares em testes, licenças e infraestrutura podem proteger a sociedade, mas também impedir a entrada de concorrentes menores e consolidar o mercado nas mãos de poucas empresas. A possibilidade de interesse econômico não invalida os riscos apresentados; exige que a regulação seja construída por instituições independentes, e não pelos próprios regulados.
Ronaldo Lemos observa que a Anthropic mantém um trust criado para proteger o interesse público, mas seus documentos não são públicos, os integrantes possuem mandatos de apenas um ano e acionistas podem anular suas decisões. Uma estrutura assim oferece uma camada de governança, porém não garante independência diante das pressões comerciais.
O que já pode ser feito sem esperar pelo apocalipse
A ausência de prova de uma futura extinção não justifica esperar que ela se torne mensurável. Em riscos de consequência irreversível, a prevenção não pode depender da ocorrência do primeiro desastre, desde que as medidas sejam proporcionais e não convertam especulações em verdades oficiais.
Modelos capazes de agir autonomamente, operar infraestrutura, desenvolver material biológico ou interferir em sistemas militares exigem avaliação externa antes do lançamento. Incidentes precisam ser comunicados a órgãos públicos e pesquisadores independentes. Testes de segurança realizados apenas por equipes contratadas pela própria empresa deixam o fiscal subordinado a quem pretende lançar o produto.
Também é necessário observar o conjunto das interações, e não apenas cada comando isolado. O caso dos sistemas de mísseis atribuído ao Claude mostra que filtros restritos a uma conversa podem ser contornados pela fragmentação do projeto. Uma defesa eficaz precisa identificar padrões distribuídos sem transformar toda atividade legítima em vigilância indiscriminada.
Controles de acesso, rastreabilidade, limites à conexão com sistemas críticos e responsabilização de operadores podem reduzir danos já demonstrados. Para modelos de fronteira, a governança precisará combinar auditorias técnicas, supervisão pública e compromissos internacionais, porque uma regra limitada a um país não interrompe uma corrida global.
A resposta honesta está entre o pânico e a indiferença
Não existe evidência de que uma inteligência artificial atual esteja prestes a extinguir a humanidade. Também não existe fundamento para garantir que sistemas futuros, mais autônomos e conectados a ferramentas, permanecerão controláveis apenas porque os modelos atuais ainda dependem de infraestrutura e comandos humanos.
O perigo comprovado é mais prosaico e imediato: pessoas e instituições já podem usar IA para ampliar ataques cibernéticos, pesquisas de uso duplo e projetos militares. O risco existencial permanece uma hipótese sem probabilidade confiável, mas suas consequências potenciais justificam controles anteriores ao dano.
Se as empresas mantiverem o poder de desenvolver, testar, liberar e investigar os próprios sistemas, a segurança continuará subordinada à corrida comercial que produz o risco. A questão decisiva não é escolher entre acreditar ou não no fim da humanidade. É definir quem poderá construir tecnologias capazes de afetá-la, quais limites serão impostos antes de sua liberação e quem terá autoridade independente para interrompê-las.
Comentários