#セキュリティ設計
10 本
LLMエージェントのEcosystem・Governance層を設計する:サードパーティ統合リスク管理と人間監視ゲートの実装チェックリスト
LASM(Layered Attack Surface Model)が定義するEcosystem層(外部API・プラグイン・MCPサーバーの統合リスク)とGovernance層(HITL承認ゲート・監査証跡・自律性制御)の実装設計を、CISA Five Eyes指針との対応関係とともに実践チェックリストで解説する。
NeMo Guardrails × Guardrails AIでLLMエージェントにランタイムガードレールを実装する:入力/対話/検索/実行/出力の5レールColang設計ガイド
NeMo GuardrailsのColang DSLで5種類のランタイムレールを構成し、LlamaGuard 3との統合・LangChainエージェントへの組み込み・Guardrails AIとの役割分担を実装コード付きで解説。EU AI Act Article 12の監査ログ要件への対応方法も整理します。
Microsoft Purview DLP で企業内 Copilot/GenAI の情報漏洩を防ぐ:機密ラベル設定・ポリシー作成・エンドポイント制御の実装ガイド
Microsoft Purview DLPを使い、Microsoft 365 Copilotへの機密情報の流出を防ぐ4段階の実装手順を解説。機密ラベル定義・Copilotロケーションのポリシー作成・エンドポイントDLPによるサードパーティGenAIサイトのブロック・監査ログ設定をPurview管理センターの操作手順とともに説明します。
NISTがAI専用サイバーセキュリティフレームワーク草案を公開:NIST IR 8596「Cyber AI Profile」が示すLLMシステムの新たなリスク管理指標
NISTがCSF 2.0の全6機能をAI固有リスクにマッピングした「Cyber AI Profile(NIST IR 8596)」初期公開草案(IPRD)を解説。プロンプトインジェクション・データポイズニング・モデル窃取など生成AIに直結するリスクカテゴリと、組織レベルでのリスク管理フレームワーク採用の意義をCISO・情報システム担当者向けに整理します。
LLMjacking完全防御ガイド:AI API鍵の盗用・コスト爆発を引き起こす外部攻撃者への対策チェックリスト
Sysdigが報告した1日$46,000のコスト爆発事例を起点に、LLMjacking(外部攻撃者によるAI API鍵窃取・悪用)の経路・検知・短命クレデンシャル移行・異常利用アラート実装を実務チェックリスト形式で解説する。
NSAがMCPセキュリティ設計指針を公開:AIエージェント自動化のトラストゾーン分離・DLP・入力検証ガイダンス解説
NSA AISCが2026年5月20日に公開した公式ガイダンス「MCP Security Design Considerations」(Ver 1.0)の要点を日本語で解説。トラストゾーン分離・DLPフィルタリング・入力検証・ロギングという4つの設計原則と、IT担当者がすぐ着手できる実務アクションをまとめます。
Azure AI Content Safety Prompt Shields 実装ガイド:直接・間接プロンプトインジェクション検知とGroundedness APIでRAGの事実乖離を防ぐ
Azure AI Content Safety の Prompt Shields(直接・間接インジェクション検知)と Groundedness Detection(RAG 事実乖離検知)を Python SDK で実装する方法を解説。リソース作成からコード例・コスト・既存フィルタとの使い分けまで実務目線でまとめます。
LLMエージェントの長期記憶を守る:Mnemonic Sovereignty論文に学ぶメモリポイズニング対策の全体像
LLMエージェントの長期記憶を狙うメモリポイズニング攻撃と、2026年4月公開のサーベイ論文『Mnemonic Sovereignty』が提示するライフサイクル別の防御フレームワークを、実装で参照できるチェックリストに落として解説します。
AIエージェントのアイデンティティ管理:JITエフェメラル認証情報とマルチエージェント認可伝播の実装ガイド
長期APIキーをAIエージェントに渡し続けるリスクを理論と実例から解説。arXiv 2605.05440の認可伝播研究とNIST AI RMF・CSAのフレームワークをもとに、JITエフェメラル認証情報・暗号IDバインド・TTL強制・監査証跡の4要素で構成する設計パターンを実装ガイドとして提供する。
LLMエージェントの「過剰権限」を排除する:OWASP LLM06:2025 準拠の最小権限設計チェックリスト
OWASP LLM06:2025「Excessive Agency」が定義する3次元リスク(機能・権限・自律性)を整理し、ツール権限スコープ絞り込み・認可委譲・Human-in-the-Loop設計・監査ログの実装チェックリストを提供する。