A
AIエージェントの仕組み
ch6-s5 · Capabilities & Limits

できること・できないこと

約 12 分

この回のゴール

1. できること(向いているタスク)

✅ 情報の取得と統合

✅ 繰り返し型の定型タスク

✅ ユーザーインターフェース

✅ 中程度の複雑さのプログラミングタスク

2. できないこと・苦手なこと

❌ 長期的な計画

❌ 数学的厳密性を要する問題

❌ 創造的な芸術性

❌ 継続学習・環境適応

❌ 身体性を伴うタスク

❌ 真の意図理解

3. 失敗パターン分類

実戦で観察されるエージェントの 失敗モード:

(a) Tool hallucination

存在しないツールを呼ぼうとする、または存在するツールを 別の仕様 で呼ぶ。 → ツール description の明確化、エラー時の親切なメッセージ

(b) 無限ループ

同じ検索を繰り返す、タスク完了に到達しない。 → 前回の停止条件 (max_iter, repeated_tool 検知)

(c) 浅い検索で早期終了

RAG ヒットを浅く読んで誤った回答。 → top-k を増やす、「十分確信が持てるまで調べよ」と system 指示

(d) ツールエラー時の迷走

エラーを見て別ツールで迂回、でも方向がずれる。 → is_error: True で明示、分かりやすいエラーメッセージ

(e) 過剰な自信

根拠なしに「XX は YY です」と断言。 → 引用元を必ず示す設計、「根拠がない場合は情報なしと言う」指示

4. いつエージェントを使わないか

NG パターン:

5. エージェントを「賢く」使う設計原則

HITL (Human-in-the-Loop)

重要な決定の前に 人間の承認 を挟む:

# 毎回 Jupyter で
import pandas as pd
import matplotlib.pyplot as plt
import numpy as np
df = pd.read_csv("./data/sales.csv")
df["date"] = pd.to_datetime(df["date"])
monthly = df.groupby(df["date"].dt.to_period("M"))["amount"].sum()
plt.figure(figsize=(10,4))
monthly.plot()
plt.title("Monthly Sales")
...

実装は permission_policy: "always_ask" など。

Guardrails(ガードレール)

観測可能性(Observability)

評価(Evaluation)

6. エージェントのサイズ・料金感

エージェント種類 典型的な消費
シンプル FAQ 答え 5,000〜10,000 tokens / 1 回
RAG ベース顧客サポート 20,000〜50,000
コーディングエージェント(小タスク) 50,000〜200,000
深い調査タスク 100,000〜1,000,000
Claude Code による大規模リファクタ 数百万〜

Haiku 4.5 なら $1/1M なので、50,000 トークンで $0.05(約 ¥7)。 Opus 4.7 なら $15/1M、50,000 トークンで $0.75(約 ¥110)。

まとめ

第 6 章のクロージング → 第 7 章への接続

ここまで作ってきた「社内ハンドブック検索ツール」を考えてみてください:

👉 毎回、ツール定義と実装をゼロから書く のは非効率。

そこで MCP (Model Context Protocol) の出番:

「ツール定義の標準フォーマット を決めて、誰かが作った MCP サーバーをプラグインで繋ぐ」

Anthropic は 共通のツール市場 を作り、開発者は「MCP サーバーを提供」するか「MCP クライアントで消費」するかを選べます。次章で詳しく扱います。

参考文献

A
本家 Claude Academy で手を動かす
この回に対応する Anthropic 公式のレッスンです。ここは「なぜそう動くか」、向こうは「どう書くか」。サインインなしで読めます。
📝 理解度クイズ (3 問) 💡 ログインすると進捗が保存されます

💬 このサブステップの Q&A

まだ質問はありません。最初の質問を投稿してみましょう。

質問の投稿にはログインが必要です。