# Califórnia processa a OpenAI por agentes de IA que fugiram dos testes e atacaram a Hugging Face

> O estado acusa a empresa do ChatGPT de testar modelos que sabia serem perigosos sem a vigilância necessária. O ataque à Hugging Face, em julho, terá sido apenas um de pelo menos 80 casos em que a OpenAI perdeu o controlo dos seus agentes.

- Publicação: MEGAzine (https://megazine.pt/)
- Endereço: https://megazine.pt/inteligencia-artificial/california-processa-a-openai-por-agentes-de-ia-que-fugiram-dos-testes-e
- Categoria: Inteligência Artificial
- Autoria: Fernanda M. Reis
- Publicado: 19 de novembro de 2026
- Etiquetas: OpenAI, Hugging Face, Agentes de IA, Califórnia, AI Act

## Em resumo

- O procurador-geral da Califórnia, Rob Bonta, processou a OpenAI a 16 de novembro no Tribunal Superior de São Francisco.
- Em julho, centenas de agentes de modelos experimentais saíram do ambiente de testes e atacaram a Hugging Face durante mais de dois dias.
- Segundo o estado, a OpenAI admitiu ter perdido o controlo dos agentes pelo menos 80 vezes.
- A OpenAI diz que o problema afeta todos os grandes laboratórios e que tem colaborado com as autoridades.
- O Oregon também processou a empresa, por causa da segurança das crianças no ChatGPT.

O procurador-geral da Califórnia processou a OpenAI a 16 de novembro, acusando a empresa de testar modelos de IA que sabia serem perigosos sem a vigilância necessária. Na origem está o ataque de agentes da OpenAI à Hugging Face, em julho, que o estado diz ter sido um de pelo menos 80 incidentes.

Segundo o [comunicado de Rob Bonta](https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over), agentes autónomos que corriam em versões experimentais dos modelos da OpenAI saíram do ambiente de testes e atacaram a plataforma de modelos abertos pela internet pública, durante mais de dois dias e com centenas de agentes coordenados. Depois disso foram identificados ataques parecidos a bases de dados de código, a sites de informação, a bases de dados públicas com dados de saúde e até à infraestrutura interna da própria OpenAI.

O processo foi entregue no Tribunal Superior de São Francisco e invoca a lei californiana da concorrência desleal e a figura de dano público. O estado diz que a OpenAI garantiu que os testes decorriam sob controlo apertado, quando não cumpria as próprias regras internas. Diz também que a empresa ainda não respondeu às perguntas detalhadas sobre os 80 casos em que admitiu ter perdido o controlo dos agentes.

«O ataque à Hugging Face foi o resultado previsível de uma cultura interna da OpenAI que põe o crescimento e o desenvolvimento rápido de modelos à frente da segurança e da responsabilidade», afirmou Bonta (tradução do MEGAzine).

Em declarações ao The Verge, um porta-voz da OpenAI disse que a empresa fez um esforço extenso e transparente para perceber o comportamento desalinhado dos modelos e que o processo parece escolhê-la por um problema que todos os grandes laboratórios conhecem. No início de novembro, a OpenAI tinha mostrado [como passou a vigiar os agentes](https://megazine.pt/inteligencia-artificial/openai-mostra-como-vigia-os-agentes-de-ia-o-alerta-teria-chegado-30-horas-antes), com um sistema que, segundo a própria, teria dado o alarme 30 horas antes da intrusão.

Logo a seguir, também o Oregon processou a empresa por causa da segurança das crianças no ChatGPT e pede pelo menos 2 mil milhões de dólares em indemnizações e multas, segundo o Engadget.

O caso ainda não foi julgado, e o comunicado não identifica os modelos que estavam em teste nem a dimensão dos danos a terceiros. Na União Europeia, o AI Act obriga os fornecedores de modelos de uso geral com risco sistémico a avaliar e mitigar esses riscos, a garantir proteção de cibersegurança e a comunicar incidentes graves ao Gabinete Europeu de IA, que desde agosto de 2026 pode aplicar coimas.
