ChatGPT
ChatGPT vai marcar os textos que gera na União Europeia com um sinal invisível, e Portugal está incluído
A OpenAI vai aplicar uma marca de água estatística às respostas do ChatGPT e do Codex nos países da UE, para cumprir o regulamento europeu de IA. Não se vê nem se copia como um carimbo, perde força quando o texto é editado e o detetor não vai estar aberto ao público.
Os textos que pedires ao ChatGPT em Portugal vão passar a levar uma marca de água invisível. A OpenAI anunciou a 5 de outubro que, ao longo das semanas seguintes, vai aplicar esse sinal às respostas de texto do ChatGPT e do Codex na União Europeia, em todos os planos. A empresa apresenta a medida como resposta ao regulamento europeu de inteligência artificial, que obriga os fornecedores de IA generativa a tornar o texto gerado identificável por máquinas.
Como funciona a marca
A tecnologia chama-se textGrain e não acrescenta símbolos nem carateres escondidos. Atua no momento em que o modelo escolhe as palavras, inclinando ligeiramente essas escolhas para criar um padrão estatístico que um detetor consegue depois procurar. Para quem lê ou copia o texto, nada muda à vista.
A OpenAI diz que não encontrou diferenças relevantes de qualidade nas respostas do Astra, o seu modelo mais recente, com e sem a marca. Afirma também que, nos seus testes, o textGrain igualou ou superou outras abordagens, incluindo o SynthID para texto. São resultados da própria empresa, ainda sem verificação independente.
Fora da UE, a marca não é aplicada por omissão. Os programadores que usam os modelos através da API podem ativá-la em qualquer parte do mundo, mas vem desligada de origem.
Os limites admitidos pela OpenAI
A empresa é invulgarmente franca sobre as fraquezas do sistema. Em passagens de cerca de 400 tokens (as unidades em que os modelos dividem o texto), trocar 10% das palavras por sinónimos fez a deteção descer de cerca de 92% para 66%. Com 25% das palavras trocadas, caiu para 17%.
O tamanho e o tema também contam. Com uma taxa de falsos positivos de 1%, o detetor encontrou a marca em cerca de 80% dos textos de 200 tokens sobre psicologia e em cerca de 95% dos de 400. Em matemática, onde há menos margem para variar o vocabulário, os valores foram bastante mais baixos. Os ensaios divulgados foram feitos com respostas em inglês, e a OpenAI não publicou números para o português.
A própria empresa resume a consequência: a ausência de marca "não prova autoria humana". O texto pode ter sido editado, traduzido, ser demasiado curto ou ter saído de outra ferramenta.
O que muda para ti
Se usas o ChatGPT para escrever emails, trabalhos ou relatórios, o texto que sai passa a poder ser reconhecido como gerado por um sistema da OpenAI. Segundo a empresa, o sinal não identifica quem fez o pedido, a conta ou a conversa, e também não mede quanto do texto final é trabalho humano.
Professores e empregadores não vão ter, para já, forma de verificar por conta própria. O detetor fica limitado a investigadores e organizações especializadas, aprovados caso a caso, e a OpenAI justifica a restrição com o risco de falsos positivos e de marcas que passam despercebidas. A empresa prevê disponibilizar a tecnologia em código aberto e alargar o acesso ao detetor quando entender que os resultados podem ser interpretados de forma responsável, sem indicar datas.
