このガイドについて
読者として、採用面接を担当するマネージャー・人事、非エンジニアの経営者・事業責任者、そして AI 開発チームに入ったばかりのエンジニアを想定しています。プログラミングの経験は前提にしません。専門用語はすべて初出時に定義し、英語の用語には日本語の言い換えを添えます。図はすべてインライン SVG で描いてあり、ライトテーマとダークテーマの両方に追従します。
元になった 10 の質問
採用面接で「AI開発してます！」って言うエンジニアを見極めるための質問10選
出典: @voidwarriorchan の投稿（2026-08-25）
| Q | 質問の見出し | 解説している章 |
|---|---|---|
| Q1 | コンテキストの扱い方 | 第 2 章 |
| Q2 | キャッシングの使い分け | 第 3 章 |
| Q3 | 推論レイテンシの改善 | 第 5 章 |
| Q4 | 量子化の導入判断 | 第 6 章 |
| Q5 | コンテキストウィンドウの調整 | 第 4 章 |
| Q6 | ツール呼び出しの信頼性 | 第 8 章 |
| Q7 | LLMの監視・運用 | 第 9 章 |
| Q8 | モデル選定の判断基準 | 第 10 章 |
| Q9 | バッチ処理とスループット | 第 7 章 |
| Q10 | プロンプトインジェクション防御 | 第 11 章 |
前提知識: プログラミング経験は不要です。ChatGPT や Claude を一度でも使ったことがあれば読めます。
情報の鮮度: LLM の API 仕様・料金・モデル名は更新が速い領域です。本ガイドは 2026-08 時点の公式ドキュメントに基づいており、パラメータ名・料金・対応モデルは変わりえます。実行前に各章末の参考リンクから最新版を確認してください。
目次
第 I 部 前提 — 「AI 開発」とは何をしているのか
第 II 部 入力側 — コンテキストとキャッシュ（Q1・Q2・Q5）
第 2 章
Q1 コンテキストの扱い方
プロンプトを書く作業とコンテキストを設計する作業の違い、context rotとLost in the Middle、配置と長時間タスクの実務。
第 3 章
Q2 キャッシングの使い分け
プロンプトキャッシュは計算結果を、セマンティックキャッシュは応答そのものを再利用する。仕組み・料金・しきい値の違いと危険な使い方を解説する。
第 4 章
Q5 コンテキストウィンドウの調整
トークン上限が迫ったとき何を消し・要約し・外部に逃がすかを4つの型で整理し、Anthropic/OpenAI/LangChainの実装と見極め方を解説する。
第 III 部 推論の速さ — サービングの仕組み（Q3・Q4・Q9）
第 5 章
Q3 推論レイテンシの改善
「応答が遅い」を prefill（読み込み）と decode（書き出し）に切り分け、TTFT・ITL それぞれに効く対策を実務目線で整理する。
第 6 章
Q4 量子化の導入判断
量子化がメモリと速度に効く条件を仕組みから解説し、perplexityやベンチマークによる品質チェックの手順、GPU世代ごとの対応形式まで実務目線で整理する。
第 7 章
Q9 バッチ処理とスループット
静的バッチの無駄からContinuous Batchingの仕組み、KVキャッシュが決める同時実行数の天井、調整パラメータと退避・生成の停滞という実際の問題までを整理する。
第 IV 部 信頼性と運用（Q6・Q7・Q8・Q10）
第 8 章
Q6 ツール呼び出しの信頼性
モデルはtool_useという要求を返すだけで実行しない。引数破損の典型パターン、strictの保証範囲、is_errorによる自己修正、リトライ設計を解説する。
第 9 章
Q7 LLM の監視・運用
本番のLLMをトレース・レイテンシ・トークン・エラー・ドリフトの5軸で監視し、アラートと改善ループへつなげる仕組みを解説する。
第 10 章
Q8 モデル選定の判断基準
三角形と第4の軸effortの仕組み、トークン単価とタスク単価の逆転、golden setの作り方からLLM-as-judgeの偏りまでを実務手順で解説する。
第 11 章
Q10 プロンプトインジェクション防御
LLMは命令とデータを区別できないという構造から、直接/間接インジェクションの脅威モデル・多層防御・許可境界の設計までを解説する。