De nombreux grands modèles de langage ne disposent pas d'une interface native d'appel d'outils, alors que l'utilisation d'outils est essentielle pour améliorer la fiabilité des sorties. Cet article présente une approche d'ingénierie de prompt : puisque les LLM sont essentiellement des prédicteurs de tokens, vous pouvez intégrer des définitions d'outils et des instructions directement dans le prompt, puis analyser la réponse du modèle pour extraire des commandes structurées. L'auteur démontre une implémentation minimale utilisant les modules regex et JSON de Python pour détecter et exécuter des appels d'outils, montrant comment mapper les sorties du modèle à des fonctions réelles. Cette méthode est indépendante du modèle et fonctionne avec n'importe quel LLM basé sur le chat, ce qui en fait un recours précieux lorsque l'appel de fonctions au niveau API n'est pas disponible. L'article aborde également les cas limites comme les réponses malformées et suggère des stratégies d'analyse robustes. Pour les développeurs créant des agents IA personnalisés ou intégrant des LLM dans des systèmes existants, cette technique offre une solution flexible et portable.
Découvrez comment implémenter l'appel d'outils sur des LLM sans support API natif en injectant des instructions dans les prompts.