Muchos modelos de lenguaje grandes no ofrecen una interfaz nativa de llamada de herramientas, aunque el uso de herramientas es crucial para mejorar la fiabilidad de las salidas. Este artículo presenta un enfoque de ingeniería de prompts: dado que los LLM son esencialmente predictores de tokens, puede incrustar definiciones de herramientas e instrucciones directamente en el prompt y luego analizar la respuesta del modelo para extraer comandos estructurados. El autor demuestra una implementación mínima utilizando los módulos regex y JSON de Python para detectar y ejecutar llamadas de herramientas, mostrando cómo mapear las salidas del modelo a funciones reales. Este método es independiente del modelo y funciona con cualquier LLM basado en chat, lo que lo convierte en un respaldo valioso cuando la llamada de funciones a nivel de API no está disponible. El artículo también discute casos límite como respuestas malformadas y sugiere estrategias de análisis robustas. Para desarrolladores que construyen agentes de IA personalizados o integran LLM en sistemas existentes, esta técnica ofrece una solución flexible y portátil.
Aprenda a implementar la llamada de herramientas en LLMs sin soporte nativo de API inyectando instrucciones en los prompts.