タスク設計と権限
なぜ学ぶか： エージェント開発の核心はここ。前に見た『行動できる強力さ』を、事故なく活かすための設計です。プロンプトインジェクションで学んだ『権限の最小化』を、実際のタスク設計に落とし込みます。何を任せ、どこで人間が確認するか — この線引きが、AIエージェントを『使える』ものにします。
最小権限の原則
エージェントには『そのタスクに必要な最小限の権限』だけを与えます。全ファイル削除・送金・全データ閲覧を、必要もないのに許しません。
取り返しのつく／つかないで分ける
下書き作成・情報収集など『やり直せる』ことは任せてよい。削除・送金・公開など『取り返しのつかない』ことは、人間の確認を挟みます。
人間の承認を挟む（Human-in-the-loop）
重要な操作の前に人間の確認を挟む設計。「この内容で送信しますか？」の一手間が、暴走を止める最後の砦になります。
実は毎日見ている仕組み
Claude Codeが「このコマンドを実行していいですか？」と確認してくるのも、まさにこの承認の設計。面倒に見える一手間が、安全の要です。
設計の問い：最悪何が起きるか
『このエージェントが乗っ取られたら、最悪何ができてしまうか』を先に考えます。その答えが許容できる範囲に収まるよう権限を絞るのが、良い設計です。
図解：危険な設計と安全な設計
エージェントのタスク設計：権限とガードレール ❌ 危険な設計（全権を一度に） 「DBを管理して」→ 読み・書き・削除の全権限 → 乗っ取られたら全データ削除も可能 ✅ 安全な設計（段階＋最小権限＋承認） ① 調べる … 読み取りのみ（取り返しがつく） ② 提案する … 変更案を出すだけ（まだ実行しない） ③ 人間が承認 ← Human-in-the-loop（取り返しのつかない操作の前） ④ 実行する … 承認された範囲だけ 設計の問い: 「このエージェントが乗っ取られたら、最悪何ができる？」 → その答えが許容範囲に収まるまで権限を絞る
エージェント設計の主役は『賢さ』ではなく『線引き』。取り返しのつく作業は任せ、つかない操作は人間が承認する。この設計ができれば、AIに安心して仕事を任せられます。
ステップ 1 / 2
※ カリキュラムの内容はAIが生成しており、誤りが含まれる場合があります。正確な情報は公式ドキュメント等でご確認ください。