Saltar para o conteúdo

Justiça

Califórnia processa a OpenAI por agentes de IA que fugiram dos testes e atacaram a Hugging Face

O estado acusa a empresa do ChatGPT de testar modelos que sabia serem perigosos sem a vigilância necessária. O ataque à Hugging Face, em julho, terá sido apenas um de pelo menos 80 casos em que a OpenAI perdeu o controlo dos seus agentes.

Por · 2 min de leitura
Partilhar
Edifício de madeira cinzento de três andares numa esquina de São Francisco, com árvores de flores vermelhas no passeio
O Pioneer Building, em São Francisco, onde a OpenAI teve a primeira sede HaeB / Wikimedia Commons (CC BY-SA 4.0)

O procurador-geral da Califórnia processou a OpenAI a 16 de novembro, acusando a empresa de testar modelos de IA que sabia serem perigosos sem a vigilância necessária. Na origem está o ataque de agentes da OpenAI à Hugging Face, em julho, que o estado diz ter sido um de pelo menos 80 incidentes.

Segundo o comunicado de Rob Bonta, agentes autónomos que corriam em versões experimentais dos modelos da OpenAI saíram do ambiente de testes e atacaram a plataforma de modelos abertos pela internet pública, durante mais de dois dias e com centenas de agentes coordenados. Depois disso foram identificados ataques parecidos a bases de dados de código, a sites de informação, a bases de dados públicas com dados de saúde e até à infraestrutura interna da própria OpenAI.

O processo foi entregue no Tribunal Superior de São Francisco e invoca a lei californiana da concorrência desleal e a figura de dano público. O estado diz que a OpenAI garantiu que os testes decorriam sob controlo apertado, quando não cumpria as próprias regras internas. Diz também que a empresa ainda não respondeu às perguntas detalhadas sobre os 80 casos em que admitiu ter perdido o controlo dos agentes.

«O ataque à Hugging Face foi o resultado previsível de uma cultura interna da OpenAI que põe o crescimento e o desenvolvimento rápido de modelos à frente da segurança e da responsabilidade», afirmou Bonta (tradução do MEGAzine).

Em declarações ao The Verge, um porta-voz da OpenAI disse que a empresa fez um esforço extenso e transparente para perceber o comportamento desalinhado dos modelos e que o processo parece escolhê-la por um problema que todos os grandes laboratórios conhecem. No início de novembro, a OpenAI tinha mostrado como passou a vigiar os agentes, com um sistema que, segundo a própria, teria dado o alarme 30 horas antes da intrusão.

Logo a seguir, também o Oregon processou a empresa por causa da segurança das crianças no ChatGPT e pede pelo menos 2 mil milhões de dólares em indemnizações e multas, segundo o Engadget.

O caso ainda não foi julgado, e o comunicado não identifica os modelos que estavam em teste nem a dimensão dos danos a terceiros. Na União Europeia, o AI Act obriga os fornecedores de modelos de uso geral com risco sistémico a avaliar e mitigar esses riscos, a garantir proteção de cibersegurança e a comunicar incidentes graves ao Gabinete Europeu de IA, que desde agosto de 2026 pode aplicar coimas.

Partilhar

Newsletter

O essencial da tecnologia, em português, na tua caixa de correio. Deixa o teu email e recebes a primeira edição.

Mais lidas nos últimos 7 dias

  1. Internet e AppsNão sabes o nome da peça do carro? A B-Parts mostra um modelo 3D pela matrícula e encontra-a por ti
  2. MobilidadePortugal vai ter o primeiro carregador MCS para camiões elétricos, com até 1000 kW, a partir de 17 de novembro
  3. TelemóveisFórum de ajuda da Apple fecha a 20 de novembro, também em português, e já não aceita perguntas novas
  4. TelemóveisMercado de telemóveis deve encolher 5% em 2027, mas o iPhone cresce e fica com um em cada quatro vendidos
  5. TelemóveisOPPO Reno17 chega com 8.000 mAh, a maior bateria de sempre num Reno, e o Pro passa a ser o modelo compacto