Segurança da IA
Anthropic pôs um modelo de IA a correr em 15 boxes Android TV e avisa para vírus capazes de se copiarem
Investigadores da Anthropic distribuíram um modelo de linguagem por boxes de televisão de 55 dólares e mediram se modelos pequenos conseguem copiar-se de máquina em máquina. Ainda não conseguem fazê-lo sozinhos em condições reais, mas a empresa estima que isso possa mudar até ao fim de 2026.
A Anthropic, a empresa que desenvolve o assistente Claude, publicou a 12 de outubro um estudo com um aviso pouco habitual: modelos de inteligência artificial pequenos podem estar a meses de conseguir copiar-se sozinhos de aparelho em aparelho, usando equipamentos domésticos ligados à internet em vez de centros de dados. Para já, nenhum modelo testado o faz em condições reais.
Um modelo repartido por 15 boxes de televisão
Para mostrar que o hardware barato chega, os investigadores compraram 15 boxes Android TV de marca branca, cada uma com 4 GB de memória e um preço a rondar os 55 dólares, e ligaram-nas em rede. Depois repartiram por elas o Gemma4-26B-A4B, um modelo aberto com 26 mil milhões de parâmetros, de forma que cada box guardasse uma pequena parte das camadas.
O conjunto funcionou, embora muito devagar: 0,39 tokens por segundo, uma fração da velocidade de um assistente comum. A escolha das boxes tem uma razão. Segundo a Anthropic, estes aparelhos usam versões do Android a que os fabricantes não acrescentam proteções, e foram o principal alvo da Kimwolf, uma rede de equipamentos infetados que ultrapassou os dois milhões de dispositivos.
O que os modelos já conseguem fazer
A parte mais difícil de uma cópia autónoma é pôr um modelo a funcionar numa máquina desconhecida. Nos testes, um modelo de 9 mil milhões de parâmetros conseguiu fazê-lo em oito dos nove tipos de hardware avaliados. Os modelos até 30 mil milhões de parâmetros cumprem muitos dos passos isolados, mas erram quando têm de os encadear do princípio ao fim.
Num segundo ensaio, a equipa montou uma rede fechada de oito máquinas virtuais com Android e largou lá um agente com a missão de se espalhar. Entre os modelos abertos testados, só o GLM-5.2, um modelo maior, completou o ciclo de forma fiável: chegou às oito máquinas em quatro de cinco tentativas e a sete na restante.
Há limites importantes neste resultado, que a própria empresa assinala. O acesso às máquinas não exigia autenticação, o que torna o teste um teto para o que aconteceria no mundo real. O GLM-5.2 instalava um modelo mais pequeno e corria ele próprio num servidor à parte, por ser demasiado grande para aqueles equipamentos. A Anthropic estima que um modelo pequeno alcance o nível do GLM-5.2 até ao fim de 2026, a partir de uma tendência geral de capacidades que descreve como uma estimativa grosseira.
Um contágio lento, e como se trava
Mesmo que venha a existir, um vírus deste tipo seria lento. A empresa calcula mais de um a dois dias por cada cópia de um modelo de 9 mil milhões de parâmetros. A diferença face às redes de aparelhos infetados que já existem é a adaptação, porque um agente com IA não fica preso a um tipo de equipamento e pode deixar notas às cópias seguintes.
Do lado da defesa, a Anthropic nota que a propagação deixaria rasto no tráfego, com ficheiros de vários gigabytes a circular entre aparelhos que normalmente não comunicam, e que os operadores de internet podem isolar os clientes infetados. Pede também aos fabricantes configurações de origem mais seguras, lembrando que as palavras-passe predefinidas já não cumprem as regras do mercado britânico.
Para quem tem em casa uma box de televisão barata ou outros aparelhos ligados à rede, o estudo não descreve nenhuma ameaça em circulação. Os cuidados que já valiam contra as redes de aparelhos infetados continuam a valer, a começar por trocar a palavra-passe que vem de fábrica.
