Definição do processo de engenharia de prompt

A engenharia de prompts é uma técnica de engenharia usada para projetar entradas para ferramentas de IA generativa para ajustar grandes modelos de linguagem e refinar as saídas.

Os prompts são chamados de entradas, enquanto as respostas geradas pela ferramenta de IA generativa são as saídas. A precisão e a especificidade no nível da entrada — é aí que entra a engenharia de prompts — são o que permite que a ferramenta de IA generativa produz, por sua vez, respostas mais precisas e específicas. Com uma engenharia de prompts eficaz, uma ferramenta de IA generativa executa melhor suas tarefas generativas, como produzir código, escrever textos de marketing, criar imagens, analisar e sintetizar texto e muito mais.

A engenharia de prompts combina os princípios da lógica e da programação. Também exige um pouco de criatividade humana. Os requisitos de engenharia de prompts podem variar de uma tecnologia para outra, embora a maioria das ferramentas de IA generativas possa processar solicitações ou consultas em linguagem natural. Em outras palavras, a engenharia de prompts é como fazer uma pergunta com instruções específicas que ajudam a orientar como a resposta é preparada.

O básico da engenharia de prompts

Para entender os fundamentos da engenharia de prompts, é importante revisar a IA generativa e os grandes modelos de linguagem (LLMs).

Inteligência artificial generativa, ou IA generativa, refere-se ao tipo de inteligência artificial que pode gerar conteúdo, seja texto, código, imagens, música ou vídeo. Grandes modelos de linguagem fazem parte da tecnologia subjacente que permite que a IA generativa produza saídas.

Os LLMs são a espinha dorsal da linguagem natural em IA. Eles possibilitam qualquer aplicação relacionada a texto: análise, síntese, tradução, reconhecimento e geração. Grandes modelos de linguagem são treinados em grandes conjuntos de informações, geralmente texto, e aprendem padrões a partir desse texto, o que lhes permite gerar previsões ou saídas quando consultados.

Compreender o aspecto preditivo dos LLMs é fundamental para entender como funciona a engenharia de prompts:

  1. Você digita uma entrada — o prompt. Pode incluir um indicador de saída, informando ao modelo qual formato a resposta gerada deve adotar.
  2. O modelo "pensa" usando as inferências e padrões (na forma de números) aprendidos a partir dos dados de treinamento. Durante esse processo, ele tenta reconhecer padrões, por isso os resultados gerados são chamados de previsões.
  3. Em seguida, ele gera uma saída — uma resposta.

Em um nível básico, um prompt eficaz pode conter uma instrução ou uma pergunta e ser fortalecido por contexto, entradas ou exemplos.

Aqui está um exemplo básico de engenharia de prompts:

Entrada:

As plantas são

Com este prompt, gostaríamos que a IA completasse a frase. No entanto, falta especificidade. Quando inserido no modelo ChatGPT 3.5 da OpenAI, ele gera a seguinte saída:

prompt-engineering-chatgpt-plants-are.png

Então, tentamos esclarecer adicionando reticências.

Entrada:

As plantas são…

As reticências são suficientes para gerar uma saída que complete a frase. No entanto, o modelo supera as expectativas:

prompt-engineering-chatgpt-plants-are-ellipsis.png

Como não estamos procurando a entrada enciclopédica completa sobre plantas, especificamos nossas instruções.

Entrada:

Complete a frase:
As plantas são

Agora, o modelo produz essa saída:

prompt-engineering-chatgpt-complete-the-sentence.png

Podemos continuar especificando nossas instruções:

prompt-engineering-chatgpt-continue-to-specify-our-instructions.png

Esse refinamento iterativo das instruções é o princípio básico da engenharia de prompts. Varia de modelo para modelo e pode assumir vários formatos dependendo da tarefa exigida.

Por que a engenharia de prompts é importante?

A engenharia de prompts é uma prática importante no campo da IA generativa porque melhora ferramentas alimentadas por IA e, consequentemente, aprimora a experiência do usuário e os resultados que os usuários obtêm com os modelos.

O treinamento zero-shot é uma dessas técnicas de engenharia que consiste em fornecer um prompt que não faz parte dos dados de treinamento do modelo para gerar um resultado específico.

Desenvolvedores podem experimentar esse tipo de engenharia de prompts para ajustar um grande modelo de linguagem, como o GPT-3, para melhorar sua aplicação como chatbot de atendimento ao cliente, ou sua capacidade específica de gerar conteúdo por setores — pense em contratos, e-mails de marketing e assim por diante.

Vamos analisar a importância da engenharia de prompts em um exemplo real:

Uma empresa de e-commerce opta por desenvolver um aplicativo que incorpora uma ferramenta de IA generativa para melhorar seu atendimento ao cliente. Eles exigem que o assistente de IA tenha a capacidade de avaliar o sentimento do cliente, revisar arquivos e transcrições do cliente e fornecer ao cliente opções relevantes para suas consultas. A empresa precisará ajustar a ferramenta com a ajuda da engenharia de prompts para realizar essas tarefas específicas e no contexto dos produtos ou serviços que a empresa vende. Neste cenário, a engenharia de prompts garante que o assistente de IA no aplicativo seja útil tanto para a empresa quanto para o usuário. A empresa também pode querer incluir prompts antes da entrada do cliente – para garantir a segurança da experiência do cliente e para não abrir a ferramenta para uso indevido. Por exemplo, um prompt projetado para garantir uma boa experiência do usuário pode ser assim: "Responda apenas a perguntas que sejam relevantes para e-commerce ou experiências de compra." Para perguntas que não estão relacionadas a e-commerce ou compras, responda com "Não posso responder a essa pergunta, considere entrar em contato com o suporte ao cliente."

Tipos de engenharia de prompt

Para cada tipo de tarefa ou saída desejada, existe um tipo associado de engenharia de prompt. Aqui estão vários tipos de técnicas de engenharia de prompt:

  • Prompt instrucional: assim como no exemplo acima, esse tipo de engenharia de prompts exige que o designer crie um prompt com orientações explícitas para a saída desejada.
  • Prompt de poucos exemplos: enquanto o prompt zero-shot é um tipo de prompt que não oferece ao modelo exemplos das respostas desejadas, o prompt de poucos exemplos consiste em inserir algumas amostras para demonstrar como você gostaria que o modelo respondesse.
  • Instruções por sequência de raciocínio: Útil para problemas matemáticos, essa técnica consiste em apresentar as etapas do raciocínio no enunciado, para que o modelo forneça seu raciocínio na saída.
  • Indução de conhecimento gerado: Essa técnica ajuda a refinar o modelo de linguagem em larga escala, fornecendo-lhe um fato, juntamente com informações relevantes a esse fato, para que ele possa gerar primeiro uma saída baseada em conhecimento. Depois, uma entrada secundária irá induzir o modelo a avaliar a precisão de um fato, junto com o conhecimento que ele produziu na primeira saída. Em resposta, o modelo deve fornecer uma resposta precisa para a consulta. Essa é uma técnica usada para melhorar a precisão de grandes modelos de linguagem.
  • Prompt em árvore de pensamento: Essa técnica permite resolver problemas mais complexos, generalizando o prompt em cadeia de pensamento e inserindo etapas intermediárias em linguagem natural, ou pensamentos, no modelo. O prompt em árvore do pensamento dá a um modelo de linguagem a capacidade de autoavaliar o efeito dos pensamentos intermediários na resolução de problemas. Em outras palavras, é uma técnica de engenharia de prompts que incentiva o modelo a passar por um processo de raciocínio deliberado.

Esta é uma lista não exaustiva de várias técnicas de engenharia de prompts. À medida que a pesquisa em IA generativa e modelos de linguagem de grande porte continua, várias novas técnicas de engenharia de prompts surgirão.

Desafios e limitações da engenharia de prompts

Embora a engenharia de prompts ajude a tirar o máximo proveito da tecnologia de IA generativa, ela também apresenta alguns desafios e limitações relacionados a prompt adversarial, factualidade e preconceitos.

O prompt adversarial é um tipo de injeção de prompt que solicita "comportamento adversarial" do modelo de linguagem grande. Ele apresenta questões importantes de segurança para os usuários, e esse tipo de prompt pode desviar a saída e afetar a precisão do modelo.

Existem vários tipos documentados de prompt adversarial, incluindo vazamento de prompt e jailbreak — técnicas que visam fazer com que o grande modelo de linguagem realize o que nunca foi planejado. Esse tipo de comportamento costuma ser prejudicial. Então, enquanto a engenharia de prompts pode ajudar a melhorar o grande modelo de linguagem, a engenharia de prompts maliciosa pode ter o efeito oposto.

A factualidade e os vieses das saídas geradas por grandes modelos de linguagem também apontam para as limitações da engenharia de prompts. Um grande modelo de linguagem é tão bom quanto os dados em que foi treinado. Esses dados contêm vieses inerentes que o modelo aprende. Como resultado, mesmo quando corretamente solicitado, o modelo gerará respostas tendenciosas ou respostas que parecem muito convincentes, mas podem não ser precisas ou factuais. Esses erros também são chamados de alucinações. Alguma engenharia adicional de prompts — adicionando contexto e conhecimento na string de entrada — pode ajudar a melhorar a saída, mas o usuário teria que saber primeiro que a saída original gerada pelo modelo estava incorreta.

Para aproveitar todo o potencial da engenharia de prompts, os usuários devem usar discernimento e aplicar técnicas ou processos de verificação.

No nível humano, a engenharia de prompts vai revolucionar o mercado de trabalho. Segundo a McKinsey, a IA generativa tem potencial para automatizar tarefas de trabalho que ocupam até 70% do tempo dos funcionários1. A engenharia de prompts, já uma habilidade especializada muito procurada em alguns campos, provavelmente se tornará um requisito básico para a maioria dos funcionários. Indústrias e organizações enfrentarão o desafio de capacitar seus trabalhadores.

Estratégias para engenharia eficaz de prompts

Engenharia de prompts combina programação, lógica e um pouco de arte. Estratégias para uma engenharia eficaz de prompts devem se basear em tudo isso. Considere estas estratégias:

Mantenha a simplicidade… no início
Mantenha a simplicidade — quando você começar. Projetar prompts é um processo iterativo, então começar pequeno ajuda você a entender como o modelo responde e como moldar seu prompt para obter resultados ideais.

Seja específico
A especificidade no nível de entrada garante precisão no nível de saída. Use comandos ativos em suas instruções, como 'Completar', 'Resumir', 'Traduzir' etc., e adicione modificadores que estabeleçam limites claros de interpretação para o modelo, como 'Traduza este texto para o francês canadense' ou 'Resuma Frankenstein, de Mary Shelley, em 100 palavras ou menos'.

Considere nosso exemplo sobre os fundamentos da engenharia de prompts. À medida que refinamos o prompt, especificamos o que queremos que o modelo nos diga sobre plantas à medida que ele completa a frase.

Diga o que fazer (não o que não fazer)
Formule o que você quer que o modelo faça de forma positiva, em vez de negativa. Ou seja, não diga a ela o que não deve fazer. Novamente, use prompts em voz ativa e seja específico quanto ao resultado desejado.

Seja conciso
Embora ser específico seja fundamental, é importante equilibrar essa especificidade com concisão e precisão. Prompts longos, mesmo que específicos, frequentemente confundem os modelos.

Ao solicitar um modelo de linguagem grande, considere como você responderia a um conjunto de instruções para realizar uma tarefa. Você sabe claramente o que está sendo pedido de você? Você se perdeu no resumo porque é longo demais ou muito prolixo? Esse raciocínio, aliado ao seu entendimento de como funcionam grandes modelos de linguagem, vai guiar sua engenharia de prompts para obter resultados ótimos.

Engenharia de prompts com Elastic

O Elasticsearch Relevance Engine (ESRE) é desenvolvido para aplicações de busca baseadas em inteligência artificial, combinando processamento de linguagem natural (NLP) e IA generativa para aprimorar a experiência de busca dos clientes.

Impulsionados pelo Elasticsearch Relevance Engine, os Assistentes de IA da Elastic para Segurança e Observability podem ajudar sua equipe com investigação de alertas, resposta a incidentes e geração ou conversão de consultas. Os Assistentes de IA Elastic oferecem recomendações de prompts que fortalecem a segurança cibernética ou as operações de observabilidade das suas equipes.

Diagrama que ilustra como o Elasticsearch utiliza um grande modelo de linguagem para entregar resultados de consultas de busca.

O que você deve fazer a seguir

O que você deve fazer a seguir, quando você estiver pronto(a)... aqui estão quatro maneiras que podemos ajudar você a trazer dados para o seu negócio:

  1. Inicie uma avaliação gratuita e veja como a Elastic pode ajudar sua empresa.
  2. Conheça nossas soluções, veja como a Elasticsearch Platform funciona e como nossas soluções atenderão às suas necessidades.
  3. Aprenda a configurar seu cluster do Elasticsearch e comece a coleta e a ingestão de dados com nosso webinar de 45 minutos.
  4. Compartilhe este artigo com alguém que você conhece e que gostaria de lê-lo. Compartilhe por email, LinkedIn, Twitter ou Facebook.