El Focal Loss se usa ampliamente en detección de objetos para abordar el desequilibrio de clases, pero sus raíces teóricas a menudo se pasan por alto. Este artículo da un paso atrás y deriva el Focal Loss desde la teoría de la información, específicamente desde el concepto de autoinformación. La idea clave es que el Focal Loss puede verse como una pérdida de entropía cruzada donde la contribución de cada muestra se pondera por una función de su probabilidad predicha, reduciendo efectivamente la influencia de los ejemplos bien clasificados. La derivación comienza con la definición del contenido de información y muestra cómo el factor de modulación (1 - pt)^gamma surge naturalmente. Esta perspectiva no solo aclara por qué funciona el Focal Loss, sino que también abre la puerta al diseño de nuevas funciones de pérdida basadas en principios de teoría de la información. Para ingenieros e investigadores, comprender esta base puede conducir a un mejor ajuste de hiperparámetros y mejoras de modelos más fundamentadas.
Este artículo deriva el Focal Loss desde los primeros principios de la teoría de la información, mostrando cómo surge naturalmente como una entropía cruzada ponderada que reduce la importancia de los ejemplos fáciles. Proporciona una base teórica más profunda para los profesionales que utilizan Focal Loss en detección de objetos y clasificación.