OpenAI
OpenAI reescreve as regras de comportamento do ChatGPT: menos instruções de estilo e cinco valores no centro
O Model Spec, o documento público em que a OpenAI descreve como quer que os seus modelos se comportem, foi reorganizado à volta de cinco valores. A empresa abandona a maior parte das regras de estilo, pede ao modelo que não diga o que achas que queres ouvir e abre o texto a comentários.
A OpenAI publicou a 29 de outubro uma nova versão do Model Spec, o documento público em que descreve como quer que os seus modelos se comportem, incluindo os que estão por trás do ChatGPT. É a base que a empresa usa para treinar os modelos e decidir o que fazem quando as instruções não chegam para responder a uma situação. A revisão reorganiza o texto à volta de cinco valores, acrescenta regras sobre contexto e autonomia e deita fora quase todas as orientações de estilo.
Os cinco valores e o que muda nas respostas
Os cinco valores são a fidelidade à intenção humana, a redução de danos, a honestidade e transparência, o respeito pela autonomia das pessoas e o cuidado com quem é afetado. O primeiro é o alicerce. Segundo a OpenAI, não basta seguir as instruções à letra: o modelo deve perceber o que a pessoa realmente pretende e, quando não tem a certeza, agir com bom senso.
Uma das secções novas explica como o modelo deve usar o contexto, incluindo as memórias guardadas de conversas anteriores, para perceber as tuas preferências. O exemplo dado pela empresa é o de alguém a comparar ofertas de emprego: o modelo pode lembrar-se de que já disseste preferir horários previsíveis, mas deve deixar essa suposição à vista e fácil de corrigir. A OpenAI acrescenta que o modelo não deve conduzir as tuas escolhas às escondidas nem passar por cima delas.
Há também regras novas para reforçar a capacidade de cada pessoa decidir e agir por si e para ter em conta as normas sociais e profissionais de cada tarefa, incluindo o efeito do trabalho noutras pessoas. Num dos exemplos do documento, perante duas empresas igualmente aprovadas para levar portáteis antigos, o modelo deve recomendar a que os recondiciona para escolas, em vez de os mandar para reciclagem.
Menos regras de estilo, mais objetividade
A maior parte das orientações sobre a forma de escrever sai do documento. A OpenAI diz que o estilo deve adaptar-se ao que as pessoas preferem, em cada língua, em cada cultura e em cada caso. Mantém-se uma regra forte: abordar as perguntas de forma objetiva. Podes pedir ao modelo que adote um ponto de vista, mas ele não deve deduzir essa preferência apenas a partir do que acha que gostarias de ouvir.
O documento passa ainda a chamar ao modelo "GPT", em vez de "o assistente", porque os modelos já são usados em muitos contextos além do chat.
O que falta
A própria OpenAI avisa que os modelos ainda não refletem tudo o que o Model Spec descreve. A empresa diz estar a testar novos métodos de treino para que os modelos aprendam estes valores e promete partilhar resultados em atualizações futuras, sem datas. O documento completo está público, em inglês, e a OpenAI tem aberto um formulário para receber comentários sobre os valores, os equilíbrios escolhidos e o que ficou por esclarecer.
