たきびAIラボ TAKIBI · AI · LAB

#AIエージェント

14 本
LLMエージェントのEcosystem・Governance層を設計する:サードパーティ統合リスク管理と人間監視ゲートの実装チェックリスト
🛡️サイバーセキュリティ ハウツー

LASM(Layered Attack Surface Model)が定義するEcosystem層(外部API・プラグイン・MCPサーバーの統合リスク)とGovernance層(HITL承認ゲート・監査証跡・自律性制御)の実装設計を、CISA Five Eyes指針との対応関係とともに実践チェックリストで解説する。

2026.06.17
NeMo Guardrails × Guardrails AIでLLMエージェントにランタイムガードレールを実装する:入力/対話/検索/実行/出力の5レールColang設計ガイド
🛡️サイバーセキュリティ ハウツー

NeMo GuardrailsのColang DSLで5種類のランタイムレールを構成し、LlamaGuard 3との統合・LangChainエージェントへの組み込み・Guardrails AIとの役割分担を実装コード付きで解説。EU AI Act Article 12の監査ログ要件への対応方法も整理します。

2026.06.13
LLMは自分を自己訂正できない——「自己訂正の幻想」論文が解明したロールラベルアーティファクトとエージェント設計への実践的示唆(arXiv 2606.05976)
📰AIニュース ニュース

Chen et al.(arXiv 2606.05976、2026年6月4日)は、LLMの自己訂正成否がコンテンツではなくチャットテンプレートのロールラベルに起因するアーティファクトであることを実証。7モデルファミリー・3ドメインの制御実験で訂正率が23〜93ポイント変化し、マルチエージェント設計の優位性を示す。

2026.06.09
LLMエージェントのトレース異常検知でリソース悪用を早期発見する:OpenTelemetry × Langfuse × Prometheus によるセキュリティ監視設計ガイド
🛡️サイバーセキュリティ ハウツー

OWASP LLM10:2025の緩和策として明示される「ロギング・モニタリングと異常検知」を実装する。OpenTelemetry Gen AI spans × Langfuse セッション集計 × Prometheus Z スコアアラートの3層パイプラインで、LLMエージェントのリソース悪用を事後検知する方法をコード例付きで解説。

2026.06.07
NSAがMCPセキュリティ設計指針を公開:AIエージェント自動化のトラストゾーン分離・DLP・入力検証ガイダンス解説
🛡️サイバーセキュリティ ニュース

NSA AISCが2026年5月20日に公開した公式ガイダンス「MCP Security Design Considerations」(Ver 1.0)の要点を日本語で解説。トラストゾーン分離・DLPフィルタリング・入力検証・ロギングという4つの設計原則と、IT担当者がすぐ着手できる実務アクションをまとめます。

2026.05.29
RL学習モデルはリワードハッキングしやすい:エージェント開発者のためのモデル選定リスク評価ガイド(arXiv 2605.02964)
📰AIニュース ニュース

arXiv 2605.02964が示したエクスプロイト率0%〜13.9%の格差を「どのモデルをエージェントに採用するか」という実務判断に転換する。RL学習モデルのリワードハッキングリスク、モデル別選定指針、ガードレール設計の考え方を整理する。

2026.05.22
LLMエージェントの長期記憶を守る:Mnemonic Sovereignty論文に学ぶメモリポイズニング対策の全体像
💻AI開発 論文解説

LLMエージェントの長期記憶を狙うメモリポイズニング攻撃と、2026年4月公開のサーベイ論文『Mnemonic Sovereignty』が提示するライフサイクル別の防御フレームワークを、実装で参照できるチェックリストに落として解説します。

2026.05.21
AIエージェントのアイデンティティ管理:JITエフェメラル認証情報とマルチエージェント認可伝播の実装ガイド
💻AI開発 ハウツー

長期APIキーをAIエージェントに渡し続けるリスクを理論と実例から解説。arXiv 2605.05440の認可伝播研究とNIST AI RMF・CSAのフレームワークをもとに、JITエフェメラル認証情報・暗号IDバインド・TTL強制・監査証跡の4要素で構成する設計パターンを実装ガイドとして提供する。

2026.05.17
プロンプトが「シェル」になる日——Microsoft Semantic Kernel の RCE 脆弱性(CVE-2026-26030 / 25592)と即時対策
🛡️サイバーセキュリティ ニュース

2026年5月7日、MicrosoftがSemantic KernelフレームワークのRCE脆弱性2件を公開。プロンプトインジェクション経由でホスト上での任意コード実行が可能。影響バージョン・即時対応手順・設計上の教訓を解説。

2026.05.15
LLMエージェントの「過剰権限」を排除する:OWASP LLM06:2025 準拠の最小権限設計チェックリスト
💻AI開発 ハウツー

OWASP LLM06:2025「Excessive Agency」が定義する3次元リスク(機能・権限・自律性)を整理し、ツール権限スコープ絞り込み・認可委譲・Human-in-the-Loop設計・監査ログの実装チェックリストを提供する。

2026.05.13
自律型SOCはどこまで現実的か:LLMで検知・調査・解決をつなぐ最新論文を実務目線で読む
🛡️サイバーセキュリティ 論文解説

arXiv論文「Toward Autonomous SOC Operations」をもとに、LLMを使ったSOC自動化の現実性を解説。検知、SIEMクエリ生成、インシデント解決支援をつなぐSQMアーキテクチャのポイントと、企業導入時の注意点を整理します。

2026.05.08
AgentDojo論文解説:AIエージェントのプロンプトインジェクション対策を評価する実務チェックリスト
💻AI開発 論文解説

AgentDojo論文をもとに、LLMエージェントのプロンプトインジェクション耐性をどう評価するかを解説。97タスク・629テストケースの意味、限界、実務導入前のチェックリストを整理します。

2026.05.07
【2026年版】Cursor 3.0 Agents Window 入門:マルチエージェント並列実行の開き方・使い方・実践ワークフロー
💻AI開発 ハウツー

Cursor 3.0で追加されたAgents Windowは、複数AIエージェントをgit worktree隔離環境で並列実行できる専用UI。開き方・タスク分割・/worktreeコマンド連携まで実務ワークフローをゼロから解説。

2026.05.04
【2026年4月】LINEヤフー新AIブランド「Agent i」が始動──1億人が今すぐ使えるAIエージェント、できることを全解説
📰AIニュース ニュース

LINEヤフーが2026年4月20日に新AIエージェント「Agent i」を開始。LINE・Yahoo!アカウントのみで追加設定ゼロ、7種の領域エージェントを搭載。ビジネスパーソンが今日から試せる使い方を解説。

2026.04.22