Un nouvel article de recherche propose GHP (Graph-based Hardening for Poisoned RAG), un mécanisme de défense qui renforce l'étape de reclassement dans les systèmes de génération augmentée par récupération. Alors que le RAG est largement adopté dans les applications d'IA de production, le risque que des documents malveillants soient récupérés et influencent les sorties augmente. GHP utilise un reclassement basé sur les graphes pour détecter et atténuer les documents malveillants, offrant une direction prometteuse pour la sécurité de l'IA. Cette approche est particulièrement pertinente pour les développeurs construisant des pipelines RAG sécurisés et les chercheurs axés sur la robustesse adverse dans les systèmes basés sur les LLM.
Nouveau mécanisme de défense basé sur les graphes pour les systèmes RAG contre les attaques par empoisonnement.