#RAG
4 本
💻AI開発 論文解説
パラメータ編集でLLMは壊れる：ROME・MEMIT・AlphaEditの推論崩壊を実証した論文（arXiv 2606.00570）と設計転換ガイド
ROME・MEMIT・AlphaEditによるパラメータベースの知識編集がLLMの推論能力を崩壊させることを実証したarXiv 2606.00570（2026年5月30日公開）を解説。ZsREで10編集後に精度が最大8.37pt低下し100編集後はほぼゼロに崩壊するリスクと、検索ベース（RAG）への設計転換チェックリストを提供する。
🛡️サイバーセキュリティ ハウツー
Azure AI Content Safety Prompt Shields 実装ガイド：直接・間接プロンプトインジェクション検知とGroundedness APIでRAGの事実乖離を防ぐ
Azure AI Content Safety の Prompt Shields（直接・間接インジェクション検知）と Groundedness Detection（RAG 事実乖離検知）を Python SDK で実装する方法を解説。リソース作成からコード例・コスト・既存フィルタとの使い分けまで実務目線でまとめます。
🛡️サイバーセキュリティ ハウツー
社内RAGのナレッジポイズニング対策ガイド：データ汚染リスクの把握から検知・防止設計まで
RAGのナレッジベースに誤情報や悪意ある指示が混入する「ナレッジポイズニング」は、取り込み前が最も検知困難。汚染経路ごとの脅威を整理し、3層防御アーキテクチャを実務チェックリスト形式で解説します。
🛡️サイバーセキュリティ ハウツー
社内RAGのベクターDB権限設計チェックリスト：OWASP LLM08準拠で情報漏洩を防ぐアクセス制御パターン
OWASP LLM08:2025「Vector and Embedding Weaknesses」を出発点に、RAGパイプラインのベクターDB権限設計を実務チェックリスト形式で解説。メタデータフィルタリングと出力マスキングの2段階設計を中心に、情報漏洩リスクを減らす設計パターンを整理します。