Ein aktuelles Papier, 'The Harness Effect', zeigt, dass die Kosten von KI-Agenten in Unternehmen hauptsächlich von der Orchestrierungsschicht bestimmt werden, nicht vom Stückpreis des zugrunde liegenden Modells. Durch die Optimierung der Organisation des Kontexts, der Komprimierung des Verlaufs und der Verwaltung von Tool-Aufrufen erzielte die Studie eine Reduzierung des Token-Verbrauchs pro Aufgabe um 38%, was zu einer Senkung der Gesamtkosten um 33-61% und einer Verbesserung der Kosten pro Million Token (CPM) um 68% führte. Diese Erkenntnis ist für Führungskräfte und Architekten von entscheidender Bedeutung, da sie den Fokus von der Auswahl günstigerer Modelle auf die Entwicklung effizienterer Agentenarchitekturen verlagert.
Die Kosten von Unternehmensagenten werden durch das Orchestrierungsdesign bestimmt, nicht durch den Modellpreis. Die Optimierung von Kontext und Tool-Aufrufen kann die Kosten um 33-61% senken.