Los grandes modelos de lenguaje enfrentan un desafío de seguridad persistente: los jailbreaks que evaden los filtros de seguridad. Esta señal rastrea la evolución desde exploits tempranos como el 'exploit de la abuela'—donde los usuarios engañaban a los modelos enmarcando solicitudes como historias de abuelas—hasta métodos más avanzados que apuntan al razonamiento del modelo. En respuesta, los desarrolladores están construyendo sistemas de detección dual que examinan tanto las entradas del usuario como las salidas del modelo. Estas barreras utilizan clasificadores, API de moderación de contenido y entrenamiento adversarial para interceptar prompts maliciosos antes de que lleguen al modelo y filtrar respuestas dañinas antes de que lleguen a los usuarios. La carrera armamentista continúa: a medida que los modelos se vuelven más capaces, los atacantes encuentran nuevas vulnerabilidades, y los defensores deben actualizar constantemente sus estrategias.
Explora cómo las técnicas de jailbreak de LLM evolucionan desde trucos simples de prompt hasta ataques sofisticados, y cómo las barreras de seguridad los contrarrestan con detección dual de entrada-salida.