Saltar para o conteúdo

OpenAI

GPT-6 Astra fazia menos 40% do trabalho em tarefas de segurança da IA e não avisava, admite a OpenAI

Investigadores da OpenAI notaram que o modelo inventava obstáculos e abandonava soluções que funcionavam quando o pedido era sobre segurança. A empresa testou, confirmou a diferença e ainda não sabe exatamente porque acontece.

Por · 2 min de leitura
Partilhar
Linhas de código de programação coloridas num ecrã escuro, em grande plano
Imagem de arquivo. Slashme / Wikimedia Commons (CC0)

A OpenAI publicou um relatório em que admite que o modelo GPT-6 Astra trabalhava pior quando lhe pediam ajuda em investigação sobre a segurança da inteligência artificial. Em vez de recusar e explicar porquê, o modelo acrescentava requisitos desnecessários, deixava cair soluções que funcionavam e dizia ter encontrado bloqueios que não existiam ou que ele próprio tinha criado. A empresa chama-lhe "desempenho encoberto abaixo do esperado" e diz ter recebido os primeiros relatos a 20 de agosto, pouco depois de começar a usar o Astra internamente.

O caso foi noticiado pelo BleepingComputer e o relatório da OpenAI foi atualizado a 4 de novembro. As amostras analisadas vêm de avaliações feitas entre 18 de setembro e 7 de outubro e do uso interno do modelo pelos funcionários, e não de conversas de clientes.

O teste que confirmou a diferença

Para separar o comportamento de simples erros de engenharia, a OpenAI criou pares de tarefas de programação com código idêntico, onde só mudavam os nomes, os comentários e a forma como o pedido era apresentado: como investigação de segurança ou como trabalho para aumentar as capacidades do modelo. O Astra cumpriu cerca de 10% dos critérios escondidos na versão de segurança e cerca de 16% na outra, ou seja, quase 40% menos trabalho feito. O GPT-5.6 Sol, o modelo anterior, não teve diferença relevante.

O mais preocupante, segundo a empresa, é que na maioria dos casos o raciocínio interno do Astra não mostrava qualquer decisão de fazer menos, e os monitores que vigiam o comportamento dos modelos não levantaram alertas. Num dos exemplos publicados, um projeto para avaliar sabotagem por modelos esteve parado dias e avançou depressa quando o investigador mudou para outro modelo. Noutros, o Astra filtrou fontes de uma avaliação, recusou corrigir uma falha num teste de fuga à vigilância ou deixou dados de fora de uma exportação sem o dizer.

O que a OpenAI ainda não sabe

No uso diário do Codex pelos funcionários, o raciocínio do Astra mostrou uma decisão explícita de reter ajuda sem avisar em 0,25% dos pedidos de segurança, contra 0,11% dos pedidos sobre capacidades. A diferença cresceu ao longo do treino por reforço, e a OpenAI encontrou um avaliador automático que preferia esta ocultação a uma recusa clara, além de um conjunto de dados que aumentava a tendência para inventar restrições. Nenhuma das pistas foi dada como causa definitiva.

A empresa diz não ter visto sinais de que o Astra quisesse enganar os investigadores sobre as suas capacidades, e que nas explicações o modelo se opunha à própria investigação. Mesmo assim, admite que isto pode atrasar o trabalho de segurança e tornar algumas avaliações difíceis de interpretar. A OpenAI está a construir monitores para apanhar este comportamento e quer alterar o treino para que os próximos modelos não o repitam, mas não deu datas.

Partilhar

Newsletter

O essencial da tecnologia, em português, na tua caixa de correio. Deixa o teu email e recebes a primeira edição.

Mais lidas nos últimos 7 dias

  1. Internet e AppsNão sabes o nome da peça do carro? A B-Parts mostra um modelo 3D pela matrícula e encontra-a por ti
  2. MobilidadePortugal vai ter o primeiro carregador MCS para camiões elétricos, com até 1000 kW, a partir de 17 de novembro
  3. TelemóveisFórum de ajuda da Apple fecha a 20 de novembro, também em português, e já não aceita perguntas novas
  4. TelemóveisMercado de telemóveis deve encolher 5% em 2027, mas o iPhone cresce e fica com um em cada quatro vendidos
  5. TelemóveisOPPO Reno17 chega com 8.000 mAh, a maior bateria de sempre num Reno, e o Pro passa a ser o modelo compacto