Viele große Sprachmodelle bieten keine native Tool-Calling-Schnittstelle, obwohl die Werkzeugnutzung für die Verbesserung der Ausgabezuverlässigkeit entscheidend ist. Dieser Artikel stellt einen Prompt-Engineering-Ansatz vor: Da LLMs im Wesentlichen Token-Prädiktoren sind, können Sie Tool-Definitionen und Anweisungen direkt in den Prompt einbetten und dann die Antwort des Modells analysieren, um strukturierte Befehle zu extrahieren. Der Autor demonstriert eine minimale Implementierung mit Pythons Regex- und JSON-Modulen, um Tool-Aufrufe zu erkennen und auszuführen, und zeigt, wie Modellausgaben auf tatsächliche Funktionen abgebildet werden. Diese Methode ist modellunabhängig und funktioniert mit jedem chatbasierten LLM, was sie zu einem wertvollen Fallback macht, wenn API-Level-Funktionsaufrufe nicht verfügbar sind. Der Artikel diskutiert auch Randfälle wie fehlerhafte Antworten und schlägt robuste Parsing-Strategien vor. Für Entwickler, die benutzerdefinierte KI-Agenten bauen oder LLMs in bestehende Systeme integrieren, bietet diese Technik eine flexible und portable Lösung.
Erfahren Sie, wie Sie Tool-Calling auf LLMs ohne native API-Unterstützung implementieren, indem Sie Anweisungen in Prompts einbetten.