Un artículo reciente, 'The Harness Effect', demuestra que el costo de los agentes de IA empresarial está determinado predominantemente por la capa de orquestación, no por el precio unitario del modelo subyacente. Al optimizar cómo se organiza el contexto, se comprime el historial y se gestionan las llamadas a herramientas, el estudio logró una reducción del 38% en el consumo de tokens por tarea, lo que llevó a una disminución del 33-61% en los costos generales y una mejora del 68% en el costo por millón de tokens (CPM). Este hallazgo es crucial para los líderes de ingeniería y arquitectos, ya que cambia el enfoque de seleccionar modelos más baratos a diseñar arquitecturas de agentes más eficientes.
Los costos de los agentes empresariales están determinados por el diseño de orquestación, no por el precio del modelo. Optimizar el contexto y las llamadas a herramientas puede reducir los costos entre un 33 y un 61%.