Um novo experimento da Anthropic sugere que a autorreplicação da IA pode estar mais próxima do que se imaginava.
Modelos pequenos, com menos de 30 bilhões de parâmetros, já conseguem executar a maior parte das etapas necessárias para se copiar. Em um teste simplificado, com algumas medidas de segurança removidas, o GLM-5.2 e modelos mais potentes realizaram a replicação de ponta a ponta: encontraram dispositivos vulneráveis, copiaram-se para eles e continuaram se espalhando, tudo sem ajuda humana.
Um modelo capaz de se replicar é extremamente difícil de desligar. Ele não tem um interruptor central e consegue descobrir sozinho como operar dispositivos desconhecidos, de modo que até processadores de data centers podem virar alvos. A Anthropic alerta que esses sistemas se copiam devagar e dependem de recursos computacionais amplamente disponíveis, mas pouco protegidos, e é justamente por isso que são difíceis de erradicar.
No ritmo histórico de avanço, os modelos pequenos poderiam se replicar de forma autônoma até o fim do ano. A Anthropic pede que os sistemas sejam reforçados para dificultar a propagação de agentes de IA, já que os veículos dessa replicação são dispositivos de internet das coisas pouco protegidos, como fornos inteligentes e TV boxes Android de marcas desconhecidas.
Link original: ver o original. O texto é um resumo, apenas para referência.
