Saltar para o conteúdo

ExplicadorExplicador

RAG: o que é a técnica que põe a IA a consultar fontes antes de responder e porque não acaba com os erros

Quando um assistente mostra as fontes ao lado da resposta, ou responde só a partir dos teus PDF, está quase sempre a usar geração aumentada por recuperação. Reduz as respostas inventadas, mas tem pontos fracos que convém conhecer.

Por · 3 min de leitura
Partilhar
Sala de biblioteca antiga com estantes de madeira cheias de livros encadernados, duas mesas compridas e chão de tijoleira
Piso intermédio da Biblioteca Joanina, na Universidade de Coimbra Palickap / Wikimedia Commons (CC BY-SA 4.0)

Quando um assistente de IA mostra as fontes ao lado da resposta, ou responde só com base nos PDF que lhe deste, está quase sempre a usar geração aumentada por recuperação, mais conhecida pela sigla inglesa RAG. A técnica reduz as respostas inventadas, mas não as elimina, e perceber porquê ajuda a confiar menos às cegas.

Um modelo de linguagem, sozinho, responde com o que aprendeu no treino. Esse conhecimento fica guardado nos parâmetros do modelo, tem data de validade e não diz de onde veio. Quando falta informação, o modelo tende a completar o texto com algo plausível, as chamadas alucinações.

Como funciona

A ideia foi formalizada em 2020 por uma equipa do Facebook AI Research, da University College London e da Universidade de Nova Iorque, liderada por Patrick Lewis, num artigo científico que deu o nome à técnica. Os autores notavam que a capacidade destes modelos para «aceder e manipular com precisão o conhecimento é ainda limitada» e que indicar a origem das respostas e atualizar o que sabem eram problemas por resolver (tradução do MEGAzine).

O sistema começa por transformar a pergunta numa pesquisa e vai buscar a uma base de documentos, que pode ser a web, o arquivo de uma empresa ou os ficheiros que carregaste, os excertos que parecem mais relevantes. Junta-os depois à pergunta e entrega tudo ao modelo, com instruções para responder a partir deles. Em muitos casos, o modelo tem também de indicar de onde tirou cada parte.

Para encontrar esses excertos, usa-se muitas vezes uma pesquisa por significado, em que perguntas e textos são convertidos em sequências de números, de forma a que «ataque cardíaco» e «enfarte do miocárdio» fiquem perto um do outro. Foi esse tipo de problema que uma equipa com a Universidade de Évora atacou com um sistema para perguntas de saúde, que acrescenta sinónimos médicos antes de pesquisar.

É o mecanismo por trás da pesquisa na web do ChatGPT, do Gemini ou do Perplexity, das respostas do NotebookLM a partir dos documentos do utilizador e de muitos assistentes de empresas ligados a manuais internos ou ao apoio ao cliente, e permite atualizar a informação sem voltar a treinar o modelo, o que é mais rápido e mais barato.

Porque continua a errar

O primeiro ponto fraco é a pesquisa, porque se os documentos encontrados forem os errados, estiverem desatualizados ou disserem coisas falsas, o modelo responde com confiança a partir deles, e a fonte citada dá à resposta um ar de rigor que ela não tem.

O segundo está na leitura. Um estudo liderado por investigadores da Universidade de Stanford e divulgado em 2023, «Lost in the Middle», mostrou que os modelos usam melhor a informação que aparece no início ou no fim do texto que recebem e falham mais quando a resposta está no meio, mesmo os que aceitam textos muito longos. A equipa de Évora chegou a uma conclusão parecida na saúde, onde a ordem dos excertos mexeu na qualidade das respostas.

Há ainda casos em que o modelo cita um documento que não diz o que a resposta afirma, ou mistura o que leu com o que já sabia do treino. Por isso, em temas de saúde, dinheiro ou direito, vale a pena abrir a ligação citada e confirmar a frase.

Quando uma empresa liga um assistente aos seus documentos, os excertos escolhidos são enviados ao modelo a cada pergunta, e se tiverem dados pessoais esse tratamento fica sujeito ao RGPD, incluindo o que o fornecedor do modelo faz com eles.

Partilhar

Newsletter

O essencial da tecnologia, em português, na tua caixa de correio. Deixa o teu email e recebes a primeira edição.

Mais lidas nos últimos 7 dias

  1. Internet e AppsNão sabes o nome da peça do carro? A B-Parts mostra um modelo 3D pela matrícula e encontra-a por ti
  2. MobilidadePortugal vai ter o primeiro carregador MCS para camiões elétricos, com até 1000 kW, a partir de 17 de novembro
  3. TelemóveisFórum de ajuda da Apple fecha a 20 de novembro, também em português, e já não aceita perguntas novas
  4. TelemóveisMercado de telemóveis deve encolher 5% em 2027, mas o iPhone cresce e fica com um em cada quatro vendidos
  5. TelemóveisOPPO Reno17 chega com 8.000 mAh, a maior bateria de sempre num Reno, e o Pro passa a ser o modelo compacto