A Anthropic alertou nesta segunda-feira (12) que modelos de IA pequenos podem estar a poucos meses de conseguir se autorreplicar em dispositivos conectados à internet. Na prática, isso abriria caminho para botnets de IA capazes de se espalhar sozinhas e de resistir a tentativas de desligamento. As informações são da Reuters.
A empresa publicou o alerta em seu blog e, segundo a agência, essa seria a primeira tentativa de explicar como o cenário poderia se concretizar. No mês passado, o presidente-executivo Dario Amodei já havia dito que, em um ano ou menos, uma IA poderia sequestrar “toda a internet” por meio de uma botnet persistente.
Sumário
O que a Anthropic testou
Botnets são redes de aparelhos controlados por criminosos e existem desde os primórdios da internet. Costumam reunir itens de segurança fraca, como TVs Android, eletrodomésticos inteligentes e câmeras de segurança, usados para enviar spam, espalhar malware ou derrubar sites com tráfego falso.
Nos experimentos, a Anthropic mostrou que um agente malicioso poderia juntar o poder de processamento de dispositivos baratos para rodar outros modelos de IA. Os modelos conseguiram se replicar em uma rede de testes simplificada.
Modelos de até 30 bilhões de parâmetros já executam muitas das tarefas individuais necessárias, mas ainda falham em completar o processo todo de forma confiável. Já o GLM-5.2 e modelos maiores fizeram a replicação de ponta a ponta, embora em testes nos quais algumas etapas de segurança foram removidas.
Por que seria difícil de conter
“Um replicador como este seria difícil de desligar, já que não há um ponto centralizado para desligá-lo”, afirmou a empresa. Sem servidor de comando, não há uma única máquina a ser derrubada.
A Anthropic reconhece que um worm de IA rodando em hardware fraco levaria dias para concluir partes da replicação. A rede cresceria mais devagar que muitos malwares convencionais, mas continuaria crescendo se os aparelhos infectados contaminassem máquinas suficientes.
A empresa também avisa que sistemas futuros poderiam mirar recursos mais potentes, como processadores de data centers. Os experimentos, porém, não demonstraram replicação autônoma em data centers comerciais.
Prazo e o que fazer
Se os modelos menores continuarem evoluindo no ritmo histórico, a Anthropic estima que possam atingir a capacidade necessária para replicação autônoma até o final de 2026. É uma projeção, não um fato consumado.
Para o usuário comum, o conselho continua o de sempre: atualizar o firmware de roteadores, câmeras e TVs, trocar senhas padrão e descartar aparelhos sem suporte. São esses dispositivos mal protegidos que alimentam botnets, de IA ou não.
Fonte: Reuters, via UOL Tilt.
