新しい研究論文がGHP（Graph-based Hardening for Poisoned RAG）を提案しています。これは、検索拡張生成システムの再ランキングステップを強化する防御メカニズムです。RAGがプロダクションAIアプリケーションで広く採用されるにつれて、悪意のある文書が検索され出力に影響を与えるリスクが高まっています。GHPはグラフベースの再ランキングを使用して悪意のある文書を検出し軽減し、AIセキュリティの有望な方向性を提供します。このアプローチは、安全なRAGパイプラインを構築する開発者や、LLMベースシステムの敵対的ロバスト性に焦点を当てた研究者に特に関連性が高いです。
RAGシステムのポイズニング攻撃に対する新しいグラフベースの防御機構。