#推論最適化
11 本
GRPO・DAPO・DPOの使い分け実践ガイド：検証可能報酬ありのタスクでDeepSeek-R1流RLファインチューニングを選ぶ判断基準
GRPOの仕組みと訓練不安定の原因、DAPOがGRPOを改善する4技術、DPOとの適用タスク差を実務目線で比較。TRL v1.0のGRPOTrainer・DPOTrainer・SFTTrainerを使った実装コードと手法選択フローを実務エンジニア向けに解説する。
LLM量子化手法の選び方ガイド2026：AWQ・GPTQ・RAMP・ReSpinQuantをオンプレ/エッジ運用条件で使い分ける
AWQ・GPTQの概念説明にとどまらず、2026年に登場したRAMP（RL自動ビット幅選択）・ReSpinQuant（回転行列でW4A4精度改善）を加えた4手法をGPUメモリ制約・精度要件・推論スループットの軸で比較し、「どの条件でどの手法を選ぶか」の意思決定フローを示す実務ガイド。
SecurityLingua論文解説：プロンプト圧縮でジェイルブレークの「真の意図」を検出する軽量防御手法（arXiv 2506.12707）
Microsoft Research が提案する SecurityLingua（arXiv 2506.12707）は、プロンプト圧縮器が悪意ある入力の真の意図を抽出し LLM の安全ガードレールを起動する推論時防御手法。クラウド API に依存しないセルフホスト環境向けの仕組み・実験結果・実務への応用を解説します。
パラメータ編集でLLMは壊れる：ROME・MEMIT・AlphaEditの推論崩壊を実証した論文（arXiv 2606.00570）と設計転換ガイド
ROME・MEMIT・AlphaEditによるパラメータベースの知識編集がLLMの推論能力を崩壊させることを実証したarXiv 2606.00570（2026年5月30日公開）を解説。ZsREで10編集後に精度が最大8.37pt低下し100編集後はほぼゼロに崩壊するリスクと、検索ベース（RAG）への設計転換チェックリストを提供する。
DCCD論文解説：非制約ドラフト→制約付きデコードの2ステップでLLM構造化出力の精度を高める（arXiv 2603.03305）
通常の制約付きデコードはトークン単位の強制でセマンティック品質が落ちる問題がある。DCCD（arXiv 2603.03305、Avinash Reddyら、2026年2月）は「非制約ドラフト生成→ドラフト条件付き制約デコード」の2ステップで意味計画と構造強制を分離し、通常制約付きデコードに対して約78〜80.5%の勝率を達成した。outlines/xgrammarとの使い分けを含めて実務目線で解説する。
vLLM・SGLangのKVキャッシュ設定を本番チューニングする：prefix caching・量子化・ページドアテンション設定の実務ガイド
vLLM v0.8以降・SGLang最新版でKVキャッシュのGPUメモリ使用量を削減・最適化する実装ガイド。kv_cache_dtype（FP8/FP16）・--enable-prefix-caching・--gpu-memory-utilization・block_sizeの設定例と、SGLangのenable_radix_cache・mem_fraction_staticのチューニング手順を実装コード付きで解説する。
本番LLMのLoRAアダプタ管理設計ガイド：バージョニング・ホットスワップ・マージ戦略の実務パターン
複数のLoRAアダプタを本番MLパイプラインで管理するための4パターンを実装コード付きで解説する。HuggingFace PEFT＋MLflowによるバージョニング、vLLM dynamic LoRA loadingでのホットスワップ、Task Arithmetic・DARE・TIESでのマージ戦略、評価ゲート設計まで体系的に整理する。
LLM継続学習の戦略選択ガイド：EWC・リプレイ・LoRAアダプタ分離・ProCLの設計判断
本番LLMを継続的に更新する際の壊滅的忘却対策として、EWC・リプレイバッファ・LoRAアダプタ分離（O-LoRA）・プログラムメモリ型（ProCL）の4手法を追加学習コスト・推論オーバーヘッド・実装難易度・忘却抑制効果の4軸で比較し、ユースケース別の設計判断基準を示す。
RLはLLMに新しい推論能力を教えない——ReasonMaxxer論文が明かすSparse Policy Selectionとコスト1000倍削減の実態（arXiv 2605.06241）
USC・DEVCOM ARLが2026年5月公開のarXiv 2605.06241は、RLがLLMに新たな推論能力を与えるのではなく、ベースモデルが既に持つ解法の確率分布を再配分するだけ（Sparse Policy Selection）と実証。提案手法ReasonMaxxerはRL訓練コストを約1000倍削減しながらフルRLに匹敵する性能を示す。
PicoSpec論文解説：エッジクラウド協調推論でネットワーク遅延を隠蔽する非同期Speculative Decoding（arXiv 2603.19133）
エッジデバイス上のSLMとクラウドLLMが協調するSpeculative Decodingでは、往復通信遅延が致命的なボトルネックになる。PicoSpec（arXiv 2603.19133）が提案する非同期パイプラインとスパース圧縮付きSeparate Rejection Samplingで最大2.9倍の高速化を達成した仕組みを、vLLMシングルノード実装・DiP-SDとの使い分けとあわせて解説する。
推論スキル再利用でトークンを削減する：TRS（Thinking with Reasoning Skills）の仕組みと実務への応用
推論LLMは問題を解くたびに長い思考トークンを消費する。TRS（Thinking with Reasoning Skills）は過去の推論軌跡をコンパクトなスキルに蒸留してRAG的に再利用し、トークンを削減しながら精度を維持する。数学・コーディング実験の結果と実務実装パターンを解説する。