Un nuevo artículo de investigación propone GHP (Graph-based Hardening for Poisoned RAG), un mecanismo de defensa que fortalece el paso de reordenamiento en sistemas de generación aumentada por recuperación. A medida que RAG se adopta ampliamente en aplicaciones de IA de producción, crece el riesgo de que documentos maliciosos sean recuperados e influyan en las salidas. GHP utiliza reordenamiento basado en grafos para detectar y mitigar documentos maliciosos, ofreciendo una dirección prometedora para la seguridad de la IA. Este enfoque es particularmente relevante para desarrolladores que construyen pipelines RAG seguros e investigadores centrados en robustez adversarial en sistemas basados en LLM.
Novedoso mecanismo de defensa basado en grafos para sistemas RAG contra ataques de envenenamiento.