LLM
Chamar um modelo de IA com um prompt montado a partir do que o fluxo já produziu.
O nó LLM é onde o fluxo usa um modelo de IA. Ele processa linguagem natural: classifica, resume, extrai informação de texto solto e gera conteúdo.
É o nó mais caro do canvas, porque cada execução consome tokens.
Escolher o modelo
O painel lateral lista os modelos habilitados no workspace, em Configurações › Modelos. Um workspace sem modelos habilitados não permite configurar este nó.
Nós LLM diferentes no mesmo fluxo podem usar modelos diferentes. É comum usar um modelo barato para classificar e um melhor para redigir o texto final.
Escrever o prompt
O prompt é montado com as variáveis dos nós anteriores, no formato {{ no.campo }}. A tecla / abre o menu de variáveis disponíveis naquele ponto do fluxo.
Classifique a solicitação abaixo em uma das categorias:
reembolso, troca, dúvida.
Responda apenas com a categoria, sem explicação.
Solicitação: {{ entrada.mensagem_cliente }}Se o nó seguinte consome a saída deste, seja explícito quanto ao formato. Um prompt que não restringe a resposta devolve texto livre, e o nó de Condição ou de Código que vem depois não consegue tratá-lo.
Combinar com conhecimento
Um nó LLM sozinho responde com o que o modelo sabe. Para responder a partir dos documentos da empresa, coloque um nó de Banco de dados vetorial antes dele e injete os trechos recuperados no prompt.
Esse par, busca seguida de prompt, é o que implementa RAG dentro de um Workflow. O equivalente em um Agente é associar Coleções a ele.
Custo
O consumo deste nó aparece na Observabilidade do workspace, atribuído ao modelo escolhido.
Fluxos com nó LLM dentro de uma Iteração multiplicam o custo pelo tamanho da lista. Uma lista de 200 itens são 200 chamadas.
Próximos passos
- Recupere conhecimento antes do prompt em Documentos.
- Repita a mesma lógica sobre uma lista em Lógica.