コストとモデル選択
なぜ学ぶか: AIを使うほど費用がかかります。その単位が『トークン』。エージェントは何度もモデルを呼ぶので、コストが積み上がりやすいです。トークンとモデル選択の感覚を持つと、『簡単な作業に高級モデルを使って無駄に高い』を避け、賢く運用できます。この次に学ぶ「AIをアプリに組み込む」段階でも必須の知識です。
トークン=AIが扱うテキストの単位
文章を細かく区切った断片。ざっくり『英単語1つ弱/日本語なら1文字前後』のイメージ。入力・出力の両方のトークン量で課金されます。
コストは『トークン量 × 単価』
入力と出力にそれぞれ単価があり、出力の単価は入力の数倍。長い文脈を渡すほど、長い出力を求めるほど高くなります。エージェントはループで何度も呼ぶので、積み重なると大きな額になります。
タスクに合わせてモデルを選ぶ
難しい設計・複雑な判断は高性能モデル、定型的な分類・単純な変換は軽量モデル。『適材適所』でコストと品質のバランスを取ります。
コスト管理も設計の一部
特に公開アプリでは、ユーザーの乱用でトークンが青天井になりえます。上限設定・キャッシュ・モデル選択を『設計時から』考えます。
使った量は管理画面で見える
AIサービスには利用量(トークン数と金額)を確認できる画面があります。まず現状を見る習慣が、コスト管理の第一歩です。
図解:トークンとコストの感覚
トークンとコストの感覚 トークン = テキストの断片 英語: だいたい 1単語 ≒ 1〜1.5トークン 日本語: だいたい 1文字 ≒ 1トークン前後 課金 = 入力トークン × 入力単価 + 出力トークン × 出力単価 ・入力と出力は単価が別。出力の方が数倍高い ・長い文脈を渡す → 入力トークン増 ・長い応答を求める → 出力トークン増 ・エージェントはループで何度も呼ぶ → 積み上がる モデル選択(適材適所) 複雑な設計・難しい判断 → 高性能・高価なモデル 定型の分類・単純な変換 → 軽量・安価なモデル 「常に最上位」は、近所へ高級タクシー コスト削減の勘所 ・巨大な文脈を毎回渡さない ・不要に長い出力を求めない ・公開アプリは上限設定・キャッシュを設計時から
「トークン=通貨」の感覚を持つと、AIの使い方が変わります。簡単な作業に高級モデルを使わない、無駄な文脈を渡さない — この意識が、特に公開アプリのコスト管理で効いてきます。
ステップ 1 / 2
※ カリキュラムの内容はAIが生成しており、誤りが含まれる場合があります。正確な情報は公式ドキュメント等でご確認ください。