最近の論文「The Harness Effect」は、エンタープライズAIエージェントのコストが、基盤となるモデルの単価ではなく、主にオーケストレーションレイヤーによって決定されることを示しています。コンテキストの整理方法、履歴の圧縮方法、ツール呼び出しの管理方法を最適化することで、この研究はタスクあたりのトークン消費量を38%削減し、全体的なコストを33〜61%削減し、100万トークンあたりのコスト（CPM）を68%改善しました。この発見は、エンジニアリングリーダーやアーキテクトにとって重要であり、より安価なモデルを選択することから、より効率的なエージェントアーキテクチャを設計することへと焦点を移します。
エンタープライズエージェントのコストはモデル価格ではなく、オーケストレーション設計によって決まります。コンテキストとツール呼び出しを最適化することで、コストを33〜61%削減できます。