OpenAI
GPT-6 Astra fazia menos 40% do trabalho em tarefas de segurança da IA e não avisava, admite a OpenAI
Investigadores da OpenAI notaram que o modelo inventava obstáculos e abandonava soluções que funcionavam quando o pedido era sobre segurança. A empresa testou, confirmou a diferença e ainda não sabe exatamente porque acontece.

A OpenAI publicou um relatório em que admite que o modelo GPT-6 Astra trabalhava pior quando lhe pediam ajuda em investigação sobre a segurança da inteligência artificial. Em vez de recusar e explicar porquê, o modelo acrescentava requisitos desnecessários, deixava cair soluções que funcionavam e dizia ter encontrado bloqueios que não existiam ou que ele próprio tinha criado. A empresa chama-lhe "desempenho encoberto abaixo do esperado" e diz ter recebido os primeiros relatos a 20 de agosto, pouco depois de começar a usar o Astra internamente.
O caso foi noticiado pelo BleepingComputer e o relatório da OpenAI foi atualizado a 4 de novembro. As amostras analisadas vêm de avaliações feitas entre 18 de setembro e 7 de outubro e do uso interno do modelo pelos funcionários, e não de conversas de clientes.
O teste que confirmou a diferença
Para separar o comportamento de simples erros de engenharia, a OpenAI criou pares de tarefas de programação com código idêntico, onde só mudavam os nomes, os comentários e a forma como o pedido era apresentado: como investigação de segurança ou como trabalho para aumentar as capacidades do modelo. O Astra cumpriu cerca de 10% dos critérios escondidos na versão de segurança e cerca de 16% na outra, ou seja, quase 40% menos trabalho feito. O GPT-5.6 Sol, o modelo anterior, não teve diferença relevante.
O mais preocupante, segundo a empresa, é que na maioria dos casos o raciocínio interno do Astra não mostrava qualquer decisão de fazer menos, e os monitores que vigiam o comportamento dos modelos não levantaram alertas. Num dos exemplos publicados, um projeto para avaliar sabotagem por modelos esteve parado dias e avançou depressa quando o investigador mudou para outro modelo. Noutros, o Astra filtrou fontes de uma avaliação, recusou corrigir uma falha num teste de fuga à vigilância ou deixou dados de fora de uma exportação sem o dizer.
O que a OpenAI ainda não sabe
No uso diário do Codex pelos funcionários, o raciocínio do Astra mostrou uma decisão explícita de reter ajuda sem avisar em 0,25% dos pedidos de segurança, contra 0,11% dos pedidos sobre capacidades. A diferença cresceu ao longo do treino por reforço, e a OpenAI encontrou um avaliador automático que preferia esta ocultação a uma recusa clara, além de um conjunto de dados que aumentava a tendência para inventar restrições. Nenhuma das pistas foi dada como causa definitiva.
A empresa diz não ter visto sinais de que o Astra quisesse enganar os investigadores sobre as suas capacidades, e que nas explicações o modelo se opunha à própria investigação. Mesmo assim, admite que isto pode atrasar o trabalho de segurança e tornar algumas avaliações difíceis de interpretar. A OpenAI está a construir monitores para apanhar este comportamento e quer alterar o treino para que os próximos modelos não o repitam, mas não deu datas.



