Qual a diferença entre prompt e contexto na IA?

TL;DR
O prompt define o que a IA deve fazer, enquanto o contexto fornece as informações necessárias para responder bem. Engenharia de prompt e engenharia de contexto são práticas complementares: a primeira formula o comando, e a segunda prepara dados, histórico e conhecimento que serão usados na tarefa. O RAG aparece como uma técnica de preparação desse contexto.
Transcript
perguntou: "Engenharia de promp, engenharia de contexto são termos sinônimos?" Cara, essa pergunta é uma pergunta assim fundamental, né, no campo da IA Generativa, viu, Fernando? Porque o que acontece é que, apesar de a gente ter os termos que são muito eh existe uma correlação entre eles e eles são parceiros estratégicos, mas não são sinônimos, be... Read More
Key Insights
- A engenharia de prompt define o comando que inicia a tarefa da IA e concentra seu foco na ação.
- A engenharia de contexto prepara dados e informações que a IA usa para responder ao pedido.
- Prompt e contexto são parceiros estratégicos, mas representam funções diferentes na interação com a IA.
- O pedido de escrever um e-mail define a ação, enquanto o histórico do cliente compõe o contexto.
- O contexto de um cliente pode incluir compras anteriores, inadimplência e situação atual do projeto.
- O RAG é apresentado como uma técnica de engenharia de contexto para preparar informações para a LLM.
- O mecanismo de atenção das redes Transformer é profundamente impactado pelo contexto fornecido.
- O prompt consome o contexto preparado, mas esse uso não torna as duas engenharias equivalentes.
Install to Summarize YouTube Videos and Get Transcripts
Explore YouTube Video Summarizer or Get YouTube Transcript Extractor
Questions & Answers
Q: Qual é a diferença entre engenharia de prompt e engenharia de contexto?
A engenharia de prompt se concentra em formular o pedido que inicia uma tarefa da IA. Seu foco é a ação: o que deve ser escrito, respondido ou realizado. A engenharia de contexto se concentra em preparar as informações que a IA precisa conhecer para responder bem. Isso envolve reunir dados, histórico e repertório antes de apresentar o pedido à LLM. Na explicação do professor, as duas práticas são parceiras estratégicas, mas não são sinônimos. O comando utiliza o conhecimento preparado, sem eliminar a diferença entre formular a tarefa e organizar suas informações.
Q: O que é um prompt no exemplo de escrita de um e-mail?
Um prompt é o comando que informa à IA a tarefa desejada. No exemplo apresentado, pedir que ela escreva um e-mail para um cliente sobre determinado projeto constitui o prompt. Esse pedido estabelece a ação a executar, mas o histórico do relacionamento e a situação do projeto pertencem ao contexto. O professor usa essa distinção para mostrar que formular uma solicitação e preparar o conhecimento necessário são atividades diferentes. A engenharia de prompt trabalha sobre a pergunta ou ordem, enquanto a engenharia de contexto reúne as informações que serão usadas para elaborar a resposta.
Q: Quais informações podem compor o contexto para escrever um e-mail a um cliente?
O contexto pode reunir o histórico de e-mails trocados com o cliente, a situação atual do projeto e o perfil desse cliente. O exemplo também inclui quantas coisas ele já comprou da empresa e se está inadimplente. Essas informações constituem o conhecimento preparado para a tarefa de escrita. O pedido de produzir o e-mail continua sendo o prompt, enquanto os dados sobre o relacionamento comercial e o projeto constituem o contexto. A explicação enfatiza que esse histórico precisa ser montado previamente para que a IA tenha informações sobre aquilo que deverá comunicar.
Q: Por que engenharia de prompt e engenharia de contexto não são sinônimos?
Engenharia de prompt e engenharia de contexto não são sinônimos porque têm focos distintos. A primeira procura formular a pergunta certa ou o comando que provoca a ação da IA. A segunda procura fornecer o conhecimento adequado para sustentar essa ação. O professor compara essas funções à boca e ao cérebro de um especialista, usando a metáfora para distinguir expressão e repertório. Embora trabalhem em conjunto, uma prática prepara as informações e a outra estabelece o pedido. A utilização do contexto pelo prompt demonstra a parceria entre elas, sem tornar suas funções equivalentes.
Q: A engenharia de contexto está sempre dentro da engenharia de prompt?
Na explicação apresentada, o fato de um prompt utilizar contexto não significa que a engenharia de contexto esteja contida na engenharia de prompt. O professor distingue a preparação das informações do uso posterior dessas informações no pedido. O resultado da engenharia de contexto pode aparecer dentro do prompt, mas as técnicas de coleta e preparação são pensadas antes de sua utilização pela LLM. Assim, é necessário separar o material produzido da atividade que o produziu. O prompt consome esse material, enquanto a engenharia de contexto organiza o conhecimento que será disponibilizado para a tarefa.
Q: Como o RAG se relaciona com a engenharia de contexto?
O RAG é apresentado como uma técnica que faz parte da engenharia de contexto. Sua função, na explicação fornecida, está ligada à preparação de dados e informações que serão disponibilizados à LLM e utilizados pelo prompt. O professor menciona essa técnica ao discutir o trabalho anterior à solicitação, destinado a ampliar o conhecimento disponível para a resposta. O exemplo reforça a diferença entre preparar o repertório e formular o comando. A engenharia de contexto produz informações para a tarefa, e o prompt utiliza esse resultado ao pedir que a IA execute determinada ação.
Q: Como o contexto se relaciona com o mecanismo de atenção do Transformer?
O professor afirma que o mecanismo de atenção da rede Transformer é profundamente impactado pelo contexto. Ele usa essa relação para explicar por que a preparação das informações é relevante na interação com a IA. A exposição também menciona a atenção com múltiplas cabeças e apresenta o Transformer como a rede que serve de base às LLMs citadas. Dentro dessa explicação, o contexto constitui o repertório disponibilizado para a resposta. A relação com a atenção reforça a importância de organizar esse conhecimento, além de formular o comando que inicia a tarefa solicitada.
Q: Como combinar engenharia de prompt e engenharia de contexto em uma tarefa?
A combinação apresentada consiste em preparar as informações relevantes e formular o pedido que fará uso delas. No exemplo do e-mail, a preparação reúne histórico de mensagens, situação atual do projeto e perfil do cliente, incluindo compras e eventual inadimplência. Em seguida, o prompt solicita a escrita do e-mail sobre o projeto. O professor também menciona tags e placeholders como formas de delimitar as informações de contexto. Essa organização preserva os dois papéis: a engenharia de contexto fornece o conhecimento para a tarefa, e a engenharia de prompt define a ação que a IA deve executar.
Summary & Key Takeaways
-
A engenharia de prompt formula o pedido que inicia uma tarefa da IA. A engenharia de contexto prepara o conhecimento usado na resposta. As práticas trabalham juntas, mas não são tratadas como sinônimos.
-
Para escrever um e-mail sobre um projeto, o comando define a ação. O contexto reúne histórico de mensagens, situação do projeto e perfil do cliente, incluindo compras anteriores e eventual inadimplência.
-
O contexto preparado é consumido pelo prompt. O professor apresenta o RAG como técnica dessa preparação e relaciona a importância das informações ao mecanismo de atenção das redes Transformer.
Read in Other Languages (beta)
Share This Summary 📚
Summarize YouTube Videos and Get Video Transcripts with 1-Click
Try YouTube Summary with ChatGPT & Claude or YouTube Transcript Generator
Explore More Summaries from Sandeco 📚






Summarize YouTube Videos and Get Video Transcripts with 1-Click
Try YouTube Summary with ChatGPT & Claude or YouTube Transcript Generator