Qual a diferença entre function calling 'default' e 'native'?

Viewed 2

Vejo opção de function calling 'default' e 'native'. Qual escolher?

1 Answers

São dois modos diferentes de como o modelo decide usar ferramentas:

🟡 Default (prompt-based, legacy):

  • Funciona com qualquer modelo (até pequenos/antigos)
  • Cortex injeta template no prompt que orienta o modelo a retornar JSON
  • Mais lento (tokens extras)
  • RAG é injetado automaticamente

🟢 Native (agentic):

  • Usa function calling nativo da API do provedor
  • Mais rápido (KV cache amigável)
  • Multi-step (raciocínio + múltiplas tools em sequência)
  • Suporte a built-in tools (memória, notas, RAG agêntico)
  • Requer modelos compatíveis (gpt-5, claude-4+, gemini-3+, etc.)
  • RAG NÃO é injetado automaticamente — modelo precisa chamar query_knowledge_files

Recomendação: use native quando o modelo suportar. Para agentes com RAG em native mode, oriente no prompt: 'Use query_knowledge_files antes de responder dúvidas sobre políticas internas.'

📖 Documentação completa na Wiki: