現代AIエージェント理論202606

次の文字を当てるプログラムでしかないLLMから始まって仕事を実行できる現代のAIエージェントに至るまでの道のりをたどる。
資料を使ってAIエージェントがどのような要素から成り立っているのかを知ることで利用上の注意や限界を知るきっかけとなることを目指した。
2026年06月時点の情報で作成

Transcript

1. I N T E R N A L T E C H L E C T U R E 現代AIエージェント理論 自分で手を動かして成果を上げる機械 Tomoya Fukumoto 2026-06バージョン
2. 0 「生成AI」は二系統存在する ひとくくりに語られるが別の理論 生成AI 言語モデル系 ← 今日の主役 テキストの続きを予測する仕組み。対話・推論・道具の使用・自律エージェン トは全部この系統の上に積み上がっている。 生成モデル系（画像・動画・音声） GAN（敵対的生成）・拡散モデル。まったく別の理論。エージェントが道具と して呼ぶことはあっても、エージェントの中身とは無関係 → 今日は扱わない。
3. 1 言葉を予測する機械 LLM 賢そうに見えても、やっていることの核は「次に来る単語を当てる」 入力された文の続きを予測する 今日の天気は ____ 晴れ 78% 雨 54% 曇り 41% 最高 12% 確率がいちばん高い語を選び、それを入力に足して、また次を予 測 —— これを繰り返すだけ。 LM（言語モデル）とは テキストの確率分布を学んだ統計モデル。『この文脈 なら次はこの語が来やすい』を膨大な文章から学習す る。 大規模化したのが LLM 同じ仕組みを Deep Learning で規模を拡大。さらにイン ターネットに公開されている大量のデータを使って学 習させた ⇒公開知識は持つが非公開情報や学習後の出来事は知 らない
4. 2 人間に仕える機械への改造 InstructGPT 続きを書くだけの機械を指示に従う機械に仕立て直す 副作用 人間の好みに最適化した結果 （a）おべっか／同調（sycophancy）：ユーザーに気に入られる答えへ寄せる （b）幻覚（hallucination）：自信のない答えは好まれないので知らないことも堂々とそれらしく言い切る。 問題：続きを予測するだけでは役に立たない 「富士山の高さは？」→ 「富士山の高さは？ 琵琶湖の面積は？利根川の長さは？...」 アラインメント（方向づけ） HHH アラインメント AI を「もっともらしい続き」から「人間にとって望ましい方向」へ 目標： Helpful 役に立つ（指示に従う） Honest 正直（事実に忠実） Harmless 無害（危険・有害な出力を避ける） InstructGPT SFT 人間が書いた“良い応答”例を学ばせ、対話の型を仕込む 報酬モデル + RLHF 人間の好みを点数化し最適化 「富士山の高さは？」→「3,776 メートルで、日本一高い山です」 問いに答える
5. 3 指示から会話へ ChatModel 往復してやりとりできるようにする 1 補完モデル 続きを書く 素の LLM 2 instruct モデル 指示に答える。単発 SFT＋RLHF 3 chat モデル 会話の履歴を踏まえ何往復もできる。 ChatML でロールを構造化 ChatML：会話を“役割”で構造化する system 前提・ルールを与える（最優先） 「あなたは丁寧な案内係です。」 user ユーザーの発言 「富士山の高さは？」 assistant AI の応答 「3,776 メートルです。」 実装 入力 <|im_start|>system あなたは丁寧な案内係です。<|im_end|> <|im_start|>user 富士山の高さは？<|im_end|> <|im_start|>assistant 出力 3,776メートルです。<|im_end|>
6. 4 自分で考える CoT/Reasoning 即答せず途中の思考を展開してから結論を出す Reasoningモデルのための アップデート 陳腐化したプロンプト 「ステップ・バイ・ステップで考えて」 「あなたは一流のコンサルタントです」 式の過去に有効とされたプロンプトは性能を悪化させる より重要になったプロンプト メッセージの構造化 結論：テクは廃れた。設計は重要になった。 具体例：同じ問いでも結果が変わる 問： ある数を 3 倍して 7 を足し、2 で割ると 20。元の数は？ 即答：「9」 一足飛びに出して外す。 順を追う： 2 で割ると 20 → 割る前は 40 7 を足して 40 → 足す前は 33 3 倍して 33 → 元の数は 11 ✓
7. 5 手足を持つ機械 Tool Use 文字を出力する存在からプログラムを実行する存在へ 1〜4まで モデルそのものの進歩 予測 → 対話化 → 推論。LLM 単体が賢くなる話。 5 モデルを部品にしたシステム LLM はもう完成品ではなく“一部品”。それを組み込んだプロ グラムの発明。 構造：システムが LLM を“呼ぶ” システム LLM 判断を任せる部品 Read（読取） Write（書込） Web Search Bash（実行） API 呼出 DB 照会 道具を“選ぶ判断”を LLM に委ねる × 人が指定：「この関数を使え」→ ただの自動化 ◎ LLM が判断：状況を見て「ここは検索」「ここは実行」 と自分で決める。この自律性が便利さと暴走リスクの両方 の源。
8. Tool の分類学 読む・書く・動かす・委ねる Retrieve 取得・検索 安全 Read ／ Grep ／ Web Search システム内部や外部から情報を読み取る Write 変更 要注意 Write ／ Update ／ Delete ファイルを作成し、編集する コード出力がパワフル Execute 実行 危険 Bash ／ API 呼出 外部のプログラムやサービスを動かす。最も強力で最も危険。 MCPの多くはここ Delegate 委譲・協調 協調 AskUser ／ call Subagent 人や別エージェントに委ねる。 ヒューマン・イン・ザ・ループ／マルチエージェント
9. C O R E D I A G R A M AI エージェント ＝ Agentic Loop 目的を達成するまで「思考 → 選択 → 実行 → 結果取得」を自分で回し続ける プログラムがループを回す プログラム処理 目的達成 まで反復 思考 前周の結果を解釈し次を考 える ツール選択 どの道具を使うか決める ツール結果取得 出力を受け取り次周へ積む ツール実行 アプリが道具を動かす 起動 ユーザーの プロンプト 達成 → 出力 ユーザーへの 回答 達成と判定したら抜ける LLM が判断
10. 6 ここまでの時間軸 数年で「予測する機械」から「自律する機械」へ。積み上げの順番が大事。 2020 LLM の大規模化 GPT-3。次単語予測を桁違いの 規模へ 2022 InstructGPT / ChatGPT 対話化。SFT＋報酬モデルで“使 える”AI 2023-24 Tool Use 道具を呼べる手足を獲得 2024-25 Reasoning モデル 思考を内在化、推論で精度向 上 2025-26 AI エージェント Agentic Loop で自律実行
11. H O W S M A R T , R E A L L Y ? 最前線の頭脳はどこまで賢いのか かつての定番 MMLU（大学レベルの知識問題）は最前線モデルが 90% 超で“飽和”し、差がつかなくなった。 そこで知識では解けない、思考力を問う難問ベンチが登場した。 Humanity's Last Exam (HLE) “人類最後の試験”。100超の分野の専門家が作問 問題の例： 「ハチドリだけが持つ特殊な種子骨は何対の腱を支えているか？」 「ギリシャ神話の英雄イアソンの母方の曽祖父は誰か？」 「詩篇104:7の本文について「閉音節」をすべて挙げよ やたら難しい大学院レベルの数学問題 • 人類が持つ知識の広さ、深さ＋推論（専門の研究者レベル） • MMLU （大学レベル）が飽和した後の後継として誕生。 FrontierMath 研究級の数学。著名数学者が監修・作問 難しさの格： 1問に専門の数学者でも数時間〜数日。問題文は引用しない（理解できない） • 数学者が既存に存在しない新規問題を作成。本番問題は非公開 • 知識だけでは解けない • 見たことのない問題を解くことができるかを評価する 到達の“軌跡” 登場時 ほぼ 0% 最前線モデルでも数%しか解けなかった 1年強で 急上昇 桁違いのペースで伸び続けている 人間専門家に匹敵するレベルに到達
12. 7 使い手側も、関わり方が変わってきた 「うまく頼む」から「環境を整える」へ —— 力点が移動している 2022–2024 プロンプト エンジニアリング 聞き方を工夫してモデルから良い答 えを引き出す。指示文の技術 2025 コンテキスト エンジニアリング モデルに何を読ませて何を読ませな いかを設計し、必要で十分な情報を 与えることで最高の応答を引き出す 2026 ハーネス エンジニアリング モデルを安全に長時間動かす装具を 設計
13. C U T T I N G E D G E ハーネス・エンジニアリング Agent ＝ Model ＋ Harness Model + Harness（装具） ツール・オーケストレー ション どの道具をどの順で呼ぶか、結果をどう次 に渡すかの制御する。 e.g. Agent Skill コンテキスト & 記憶 限られた窓に何を載せ、何を外部記憶へ退 避するか。 e.g. Memory ガードレール 暴走・逸脱・誤操作を止める枠。承認ステ ップや権限制御。 e.g. Hook 関心の移動：「モデルをどう賢くするか」より「賢いモデルをどれだけ長く自律稼働させ、間違えないよう制御できるか」へ