Como o RAG transforma setores que dependem de dados

TL;DR
O RAG fornece às LLMs informações internas ou recentes que não fizeram parte de seu treinamento, permitindo respostas baseadas em fontes recuperadas no momento da consulta. Seu impacto é maior em organizações, no setor jurídico e no jornalismo, pois essas áreas dependem de regras próprias, grandes acervos documentais e notícias atualizadas, além de precisarem reduzir alucinações sobre assuntos específicos.
Transcript
Olha que pergunta interessante do Kiko. Em quais setores o Rag tem causado o maior impacto e por quê? Muito bem. Aquelas, vamos, vamos entender o seguinte. Primeiro, o que que é um hag, né? Um hag é o quê? Eu vou prover a inteligência artificial, ou seja, a LLM, o o GP, o chat GPT, o Gemini, né? O Dipsek, o Cloud, certo? Eu vou prover essas LLMs co... Read More
Key Insights
- O RAG amplia o contexto da LLM com informações que não fizeram parte de seu treinamento original.
- O Chat Petrobras busca dados internos antes de formular respostas para os funcionários da empresa.
- Regras, padrões e procedimentos corporativos podem integrar uma base de conhecimento consultável.
- A área jurídica depende de jurisprudências e documentos que mudam ou surgem continuamente.
- O Ministério Público de Goiás estrutura um RAG com mais de 30 milhões de documentos.
- Procuradores podem consultar o sistema durante audiências para obter informações no momento necessário.
- Notícias recentes podem ser recuperadas na web e adicionadas ao contexto usado para gerar uma resposta.
- O RAG reduz alucinações e antecipa a criação de inteligências artificiais verticais e especializadas.
Install to Summarize YouTube Videos and Get Transcripts
Explore YouTube Video Summarizer or Get YouTube Transcript Extractor
Questions & Answers
Q: O que é RAG e como ele funciona com uma LLM?
RAG é uma estrutura de recuperação, aumento de informação e geração. Quando recebe uma pergunta, o sistema procura conteúdo pertinente em uma base de conhecimento, acrescenta esse material ao contexto e o entrega à LLM. O modelo, como ChatGPT, Gemini, DeepSeek ou Claude, usa as informações recuperadas para escrever a resposta. Assim, ele consegue trabalhar com regras internas, documentos ou acontecimentos recentes que não fizeram parte de seu treinamento, produzindo uma saída apoiada nos dados fornecidos naquele momento.
Q: Quais setores recebem maior impacto do uso de RAG?
Os setores mais impactados são aqueles que dependem de informações próprias, recentes ou ausentes do treinamento da LLM. O conteúdo destaca empresas com regras e procedimentos internos, a área jurídica, que trabalha com jurisprudências e grandes conjuntos documentais, e a área de notícias, onde os fatos mudam rapidamente. Nessas situações, o RAG recupera o material necessário no momento da pergunta e o fornece ao modelo, permitindo respostas ligadas ao contexto específico da organização, do processo jurídico ou do acontecimento noticiado.
Q: Como a Petrobras utiliza RAG em seu chat corporativo?
A Petrobras mantém um grande RAG com diversas informações da própria empresa. Quando um funcionário usa o Chat Petrobras e envia uma pergunta, o sistema consulta essa base de conhecimento para localizar conteúdo corporativo relevante. A LLM recebe a pergunta junto com as informações recuperadas e redige uma resposta para o usuário. Esse processo permite consultar padrões, procedimentos, regras internas e outras orientações que não chegaram ao treinamento original do modelo, transformando o chat em um ponto de acesso às informações da organização.
Q: Por que o RAG é importante para a área jurídica?
O RAG é importante para a área jurídica porque esse setor trabalha com jurisprudências, documentos e informações que surgem ou mudam no dia a dia. Parte desse conteúdo não está na base de treinamento da LLM e, em alguns casos, nem está disponível na web. Ao conectar o modelo a um acervo jurídico específico, o sistema permite pesquisar e conversar com essa documentação. Dessa forma, procuradores podem obter informações relevantes diretamente no sistema, inclusive durante uma audiência, sem depender de pedidos enviados a outras pessoas.
Q: Como o Ministério Público de Goiás pretende aplicar RAG?
O Ministério Público de Goiás é apresentado como um caso de estruturação de um grande RAG com mais de 30 milhões de documentos. A finalidade é permitir que os procuradores pesquisem esse acervo e conversem com o sistema do Ministério Público por meio de perguntas. Em uma audiência, por exemplo, o profissional poderia solicitar diretamente a informação necessária naquele momento, em vez de recorrer a mensagens para um secretário. O RAG colocaria uma ampla parcela das informações institucionais ao alcance dos colaboradores autorizados.
Q: Como o RAG pode ser usado para responder sobre notícias recentes?
O RAG pode buscar na web uma notícia recente que ainda não existe na base de conhecimento da LLM e acrescentá-la ao contexto da solicitação. O exemplo apresentado é a produção de um texto sobre uma partida do Vasco ocorrida no dia anterior. Como esse resultado não fazia parte do treinamento do modelo, a informação precisaria ser recuperada na internet. Depois disso, a LLM usaria o conteúdo encontrado para gerar uma resposta com maior segurança sobre o acontecimento atualizado.
Q: Como o RAG ajuda a reduzir alucinações das LLMs?
O RAG reduz alucinações ao fornecer ao modelo informações recuperadas especificamente para a pergunta, em vez de exigir que ele responda apenas com aquilo que assimilou durante o treinamento. A LLM recebe documentos, regras ou notícias relacionados ao assunto e usa esse material para elaborar a saída. Segundo o conteúdo, RAG e fine-tuning estão entre as principais técnicas para diminuir drasticamente as alucinações sobre determinado tema. A eficácia depende de disponibilizar informações pertinentes na base consultada pelo sistema.
Q: Qual é a relação entre RAG e uma IA vertical especializada?
O RAG é apresentado como uma antecipação da construção de uma IA vertical, isto é, uma inteligência artificial especializada em determinado assunto ou organização. Ao conectar uma LLM a informações específicas, o sistema passa a responder com base no conhecimento daquele domínio. Os exemplos citados são a Petrobras, com seus dados, regras e procedimentos internos, e o Ministério Público, com seu acervo documental. Essa especialização permite criar agentes voltados às necessidades concretas de uma empresa ou de uma área profissional.
Summary & Key Takeaways
-
O RAG recupera informações ausentes do treinamento de uma LLM, combina esses dados com a pergunta recebida e permite que o modelo redija uma resposta apoiada na base de conhecimento consultada.
-
Empresas podem conectar chats internos a regras, padrões e procedimentos próprios. O exemplo apresentado é o Chat Petrobras, que consulta informações corporativas antes de responder aos funcionários.
-
No setor jurídico, o RAG permite pesquisar grandes acervos e obter informações durante atividades como audiências. No jornalismo, incorpora notícias recentes que ainda não constam na base da LLM.
Read in Other Languages (beta)
Share This Summary 📚
Summarize YouTube Videos and Get Video Transcripts with 1-Click
Try YouTube Summary with ChatGPT & Claude or YouTube Transcript Generator
Explore More Summaries from Sandeco 📚






Summarize YouTube Videos and Get Video Transcripts with 1-Click
Try YouTube Summary with ChatGPT & Claude or YouTube Transcript Generator