Chain-of-Thought

O que é

Chain-of-Thought (CoT), ou raciocínio em cadeia, é uma técnica de engenharia de prompts que incentiva os modelos de linguagem (LLMs) a gerarem uma sequência de passos lógicos antes de chegarem a uma conclusão. Em vez de pedirmos ao modelo que salte diretamente para o resultado, forçamo-lo a "pensar em voz alta". No contexto das PME, esta abordagem transforma a IA de um simples gerador de texto numa ferramenta capaz de resolver problemas de logística, planeamento financeiro ou análise de dados com uma taxa de erro muito inferior.

Esta técnica surgiu da observação de que os modelos de IA, embora rápidos, tendem a cometer erros de lógica ou de cálculo quando confrontados com tarefas multifacetadas. Ao estruturar a resposta como uma cadeia de raciocínio, o modelo utiliza os seus próprios passos intermédios como contexto para o passo seguinte, reduzindo drasticamente as alucinações.

Como funciona

O funcionamento do CoT baseia-se na forma como os LLMs processam a informação: palavra a palavra (token a token). Se pedirmos a resposta direta para uma pergunta complexa, o modelo tem apenas uma oportunidade de acertar no próximo token. Se o obrigarmos a descrever o processo, cada frase correta que ele escreve serve de âncora lógica para a conclusão final.

Existem duas formas principais de aplicar o CoT:

1. CoT Zero-Shot: Basta adicionar uma instrução simples como "Pensa passo a passo" ao final do seu prompt. Isto ativa nativamente as capacidades de raciocínio do modelo.
2. CoT Few-Shot: Fornecemos ao modelo alguns exemplos de problemas semelhantes resolvidos com a estrutura de passos que pretendemos que ele emule.

Modelos mais recentes, como a série o1 da OpenAI, já vêm com mecanismos de Chain-of-Thought integrados no seu processo de treino, ocultando o raciocínio interno mas entregando resultados significativamente mais precisos em tarefas de raciocínio lógico e matemático.

Quando usar

O Chain-of-Thought não deve ser usado para todas as tarefas. Se pedir para traduzir um e-mail ou resumir uma reunião, o CoT apenas tornará o processo mais lento e caro (pois consome mais tokens). Deve ser reservado para:

• Cálculos e Orçamentação: Quando o modelo precisa de aplicar várias taxas, descontos e somatórios de forma sequencial.
• Lógica de Negócio: Analisar se uma devolução deve ser aceite com base numa política complexa de vários pontos.
• Resolução de Problemas Técnicos: Diagnóstico de falhas em equipamentos ou software baseado em sintomas reportados pelo cliente.
• Análise Comparativa: Quando é necessário pesar prós e contras de diferentes fornecedores antes de recomendar uma escolha.

Erros comuns

• Usar para tarefas criativas: Pedir um "raciocínio passo a passo" para escrever um post de LinkedIn só resultará num texto maçador e num gasto de tempo desnecessário.
• Confiar cegamente no cálculo: Embora o CoT melhore o raciocínio, a IA continua a não ser uma calculadora. Para cálculos matemáticos complexos de precisão absoluta, deve-se usar o CoT em conjunto com ferramentas externas (como Python ou folhas de cálculo).
• Prompts vagos: Dizer apenas "pensa bem" não é o mesmo que dizer "descreve os passos lógicos e verifica os cálculos intermédios".
• Ignorar o custo: Como o modelo escreve mais texto (os passos intermédios), o custo por pedido aumenta. Em operações de larga escala, deve-se avaliar se o ganho de precisão justifica o custo adicional de tokens.

Exemplo prático para uma PME

Imagine uma empresa de metalomecânica em Vila Nova de Gaia que precisa de calcular o custo de produção de uma peça personalizada com várias variáveis.

Sem Chain-of-Thought: "Quanto custa produzir 50 flanges de aço se o material custa 10€/kg, cada peça pesa 2kg e temos um custo fixo de 200€?" Resposta da IA (potencialmente errada): "O custo total é 1200€."

Com Chain-of-Thought (Prompt): "Calcula o custo total da encomenda seguindo estes passos: 1. Calcula o peso total; 2. Calcula o custo do material; 3. Adiciona o custo fixo; 4. Calcula o custo por unidade."

Resposta da IA: "1. Peso total: 50 unidades * 2kg = 100kg. 2. Custo do material: 100kg * 10€ = 1000€. 3. Custo total: 1000€ + 200€ (custo fixo) = 1200€. 4. Custo por unidade: 1200€ / 50 = 24€ por flange."

Neste exemplo, mesmo que o resultado final fosse o mesmo, a empresa agora tem uma forma de validar o raciocínio da IA e identificar onde um erro possa ter ocorrido.

Perguntas frequentes

Q: Ativar o Chain-of-Thought torna a resposta mais lenta? R: Sim. Uma vez que o modelo tem de gerar mais texto (o raciocínio), o tempo de resposta aumenta proporcionalmente ao número de palavras geradas.

Q: O Chain-of-Thought gasta mais créditos nas APIs? R: Sim. A maioria dos modelos de IA cobra por token gerado. Como os passos intermédios são tokens, o custo por pergunta será mais elevado.

Q: Posso esconder o raciocínio do cliente final? R: Sim. Se estiver a usar IA num chatbot para clientes, pode configurar o sistema para realizar o CoT internamente e apresentar apenas a conclusão final ao utilizador.

Q: Funciona com todos os modelos? R: Funciona melhor com modelos maiores e mais capazes (GPT-4, Claude 3.5, Gemini 1.5). Modelos muito pequenos podem ter dificuldade em manter a coerência lógica numa cadeia longa.

Q: Qual a diferença entre CoT e Prompt Engineering? R: O CoT é uma técnica específica dentro da área mais abrangente de Prompt Engineering.

• 01Adicionar 'Pensa passo a passo' ao final de uma análise financeira complexa para aumentar a precisão.
• 02Pedir ao modelo para listar os critérios de elegibilidade de um subsídio antes de avaliar um caso específico.
• 03Utilizar raciocínio em cadeia para depurar um erro num script de automação de faturação.
• 04Estruturar o planeamento logístico de rotas de entrega detalhando cada paragem intermédia primeiro.

Quer usar Chain-of-Thought na sua empresa?

30 minutos, gratuito, sem compromisso. Dizemos onde encaixa.

Diagnóstico IA gratuito