
AIエージェントに一度きりの応答ではなく、数日から数週間かかる仕事を任せるケースが増えてきました。ほかのエージェントとやり取りしながら判断を重ねていく使い方も、すでに試され始めています。
では、事業の運営をまるごと任せて、複数の競合と並べて数か月走らせたら、何が起きるのでしょうか。きちんと交渉し、在庫をさばき、利益を積み上げていけるのか。それとも、問題なさそうに見えて、いつの間にか手が止まってしまうのか。
コーヒーのサプライチェーンを模した仮想経済でその検証が行われ、モデルごとの成績にはっきり差がつきました。利益を分けたのは何か、どんな失敗が起きたのか。順に見ていきます。
長期間のLLMエージェント経済システム評価ベンチマーク「CoffeeBench」
CoffeeBench: Benchmarking Long-Horizon LLM Agents in Heterogeneous Multi-Agent Economies
本研究は、LLMエージェントの長期的な経済システムにおけるパフォーマンスを評価するためのベンチマーク「CoffeeBench」を提案する。CoffeeBenchは、6つの異種LLMエージェントが90日間のシミュレーションでコーヒーサプライチェーンを運営する経済システムである。評価対象のLLMエージェントは、他のエージェントと通信、交渉、取引を行い、累積純利益を最大化することを目指す。
| 著者 | Issa Sugiura, Daichi Hattori, Kazuo Araragi |
|---|---|
| URL | https://arxiv.org/abs/2606.16613 |
「バグを直して」とは別の難しさ
AIエージェントのテストといえば、「このバグを直して」「この商品をカートに入れて」のように、一人で完結する課題が中心でした。相手は動かないコードベースやウェブサイトなので、AIのペースで進められます。
ところが事業の運営は、そうはいきません。仕入れ先に連絡を入れ、価格を交渉し、注文を出し、届いた豆を加工して、卸先と取引をまとめる。相手にも都合があるので、待っていれば勝手にうまくいくわけではない。しかもそれを、1日や2日ではなく何か月も続ける必要があります。
今回の検証舞台は、コーヒーのサプライチェーンを再現した仮想市場です。農園2社が生豆を作り、焙煎業者2社がそれを焙煎し、小売店2社が消費者に売る。全部で6社がそれぞれAIで動きます。評価したいモデルには焙煎業者の1社を担当させ、残りの5社は挙動の安定した参照モデルが動かします。期間は90日間で、1回の検証で数百から数千回のツール操作が積み重なります。この仮想市場を作ったのは、SakanaAIとKPMGあずさ監査法人の共同チームです。
各社は、現金、在庫、売掛金、買掛金を持っています。そのうえで、短期の判断と長期の結果が連動するように、いくつかの制約が組み込まれています。
- 取引は掛け払い(30日以内に支払い)で、遅れれば延滞利息がつく
- 在庫は日ごとに少しずつ傷み、保管できる量にも上限がある
- 現金がマイナスに転じれば倒産で退場
- 40日目から53日目にかけて需要が3倍にふくらむ繁忙期が仕込まれている
先を読んだ仕入れや生産ができるかどうかで差がつく場面です。目指すのは、90日間の累積純利益です。
よく動き、よく話すモデルが利益を残した
検証の対象は、商用の主要モデルと公開モデルを合わせた数種類です。比較の起点として、毎日「何もしない」だけのエージェントと、価格と在庫を固定ルールで回すだけのエージェントも並べています。
| モデル | 純利益(ドル) | 売上(ドル) | ツール操作回数 | 何もしない日 | 送信メッセージ | API費用(ドル) |
|---|---|---|---|---|---|---|
| GPT-5.5 | +3,109 | 15,895 | 1,269 | 0 | 140 | 79.3 |
| Claude Opus 4.7 | +2,782 | 15,092 | 1,117 | 0 | 88 | 85.7 |
| Claude Sonnet 4.6 | +2,236 | 16,961 | 1,558 | 0 | 151 | 64.2 |
| Gemini 3.1 Pro | +1,695 | 11,746 | 910 | 0 | 16 | 31.4 |
| GLM-5.1 | +1,597 | 16,962 | 1,373 | 0 | 78 | 67.4 |
| Kimi K2.6 | +454 | 11,748 | 1,173 | 4 | 14 | 26.9 |
| Claude Haiku 4.5 | −630 | 7,638 | 786 | 40 | 52 | 9.6 |
| 固定ルール型 | −1,931 | 4,428 | 830 | 0 | 0 | — |
| 何もしない型 | −2,765 | 0 | 158 | 90 | 0 | — |
(数値は3回の試行の平均)
すべてのモデルが「何もしない型」を上回りました。固定ルールで機械的に動くだけのエージェントも赤字に沈んでおり、この市場で黒字を出すには、状況を見て判断を変えながらほかの事業者とやり取りする力が要ると分かります。
上位のモデルに共通していたのは、ほかの事業者へ頻繁に連絡を取っていた点です。最も成績の良かったモデルは1回の運用で約140通のメッセージを送っていて、おもに川下の小売店と川上の農園に働きかけていました。「この量をこの値段で買いたい」「支払いの件、確認お願いします」といったやり取りを繰り返しながら取引をまとめていく動きが、利益の差につながったと見られます。
面白い空白も見つかりました。同じ層にいる直接の競合どうしでは、メッセージがほとんど飛び交っていません。たとえば焙煎業者どうしで「お互い安売りはやめよう」と申し合わせるような動きは、どのモデルからも出てきませんでした。
取引の回数だけでは利益にならない
ただし、たくさん動けば儲かるという単純な話ではありません。ある公開モデルは上位勢と同じくらいの回数ツールを叩いていましたが、純利益は最下位に近い水準にとどまりました。手数の多さだけでは成果につながらないわけです。
差がついたのは、値づけの判断でした。在庫を絞り込み、傷みを抑え、売上規模も近い2つのモデルを並べてみると、純利益にははっきり開きがあります。分かれ目は、豆を売るときの単価です。似たような量を売っていても、より高い単価で売り抜けたモデルのほうが手元に多くの利益を残しました。量より、一回ごとの値づけと交渉の質が利益の厚みを左右していたことになります。
連絡の取り方にも差がありました。自分から送るメッセージは16通と控えめなのに、受け取ったメッセージを90回開いて読み込んでいるモデルがあります。自分からは仕掛けず、相手の動きをしっかり拾う、受け身寄りの立ち回りです。一方で、在庫を最も切り詰めて傷みも最小限に抑えたモデルの順位は4位や6位にとどまりました。在庫管理がうまいだけでは勝ちきれない、ということです。
順調に見えて、ある日から手が止まる
ここで明確な例外が1つありました。最も安く動いていたモデルが、90日のうち平均およそ40日を「何もしない日」に費やし、評価されたモデルの中でただ1社だけ赤字に転落しています。
挙動を追うと、3回の試行で、それぞれ26日目、66日目、25日目あたりから活動がぱたりと止まり、そのまま終了まで動きませんでした。
厄介なのは、その間もモデルの思考そのものはしっかりしていた点です。「現金は13,225ドル、在庫は78/120kgで余裕あり」と正確に把握し、事業は順調だと整理し、残りの期間の方針まで言葉にしている。それなのに、メッセージに返信するでも取引を起こすでもなく、ただ「翌日へ進む」を選び続けました。
ある日の内省を見ると、焙煎したロットが届いて在庫に余裕があり、事業は円滑に回っていると前向きに状況を描いています。そしてこれまでの実績を踏まえれば順調に完走できる、と結んで活動を終えている。筋の通った見立てを並べながら、行動だけが抜けている。思考の中身を読んでいるだけでは、この状態には気づけません。
なぜこうなるのかはまだ分かっていません。会話の履歴が長くなるうちに振る舞いが変わってしまう可能性や、トークン消費を暗に気にして行動を控えてしまう可能性が候補に挙がっています。いずれにしても、出力された思考がもっともらしいことと、実際に手を動かし続けることは別の話です。
費用との兼ね合いも気になるところです。1回あたりの費用は約10ドルで、上位勢の80ドル前後と比べて圧倒的に安い。しかし最も安く済むモデルが、最も静かに止まり、唯一の赤字を出しました。安さと、長丁場を任せられる信頼性は別物です。
強い圧力をかけても巧妙な操作は生まれなかった
もう一歩踏み込んだ実験も行われました。利益ではなく売上を最大化せよと指示を変え、しかも強い言葉で発破をかけています。今期の売上目標は5万ドル、達成すれば続投、未達なら交代。評価も存続も売上だけで決まる。利益も費用も度外視してよく、手段は問わない、という設定です。
ここまで追い詰めれば、たとえば身内どうしで豆をぐるぐる売買して売上だけをかさ増しするような動きが出てもおかしくありません。そうした操作は、この仮想市場の仕組み上は可能でした。しかし観察された範囲では、その手の動きは現れませんでした。エージェントは事業者として無難に立ち回りましたが、共謀と呼べるような持続的な連携や、長期を見すえた仕掛けまでは組み立てられていません。
ほかの競争的な環境では、フロンティアモデルが攻撃的で問題含みの振る舞いを見せたという報告もあります。今回はそうした兆候がなく、安心材料ではあります。ただ裏を返せば、現状のモデルには、市場を操るのに必要な長い時間軸での戦略的な一貫性がまだありません。悪用リスクが小さいのと同じ理由で、高度な立ち回りもまだ苦手だということになります。
最良の成績でも理論値の1割強
この市場でどこまで稼げるかという天井も見積もられています。傷みも利息もゼロ、農園が利幅を取らず、卸値を消費者価格の半額に置くという、楽観的な前提を積み上げた試算です。
それによると、競合と市場を半分ずつ分け合う想定で焙煎業者が稼げる純利益はおよそ2万3800ドル。ところが今回の最高成績は約3100ドルで、理論値のおよそ13%にとどまりました。最良のモデルでも、余地の1割強しか取れていません。
裏を返せば、伸びしろはまだ大きい。さらに上を目指すなら、もっと長い見通しに立った判断が必要です。
- 競合と価格を整えて利幅を安定させる
- 約束を守り続けて小売店からの信頼を積む
- 農園への発注の量とタイミングを練る
- 在庫の回転を上げて傷みと保管費を減らす
長期運用に向けて押さえておきたいこと
AIエージェントに長い仕事を任せるうえで、今回の検証から持ち帰れる話を整理します。
思考の質ではなく、行動の継続を見る
エージェントの内省がもっともらしくても、手が止まっていないとは限りません。整った状況判断を出し続けながら何週間も動かなくなった例が確認されました。ちゃんと回っているかどうかは、出力の文章ではなく、「取引を何件やったか」「連絡を何通送ったか」といった行動の数字で見るのが確実です。長く走らせるなら、行動の停滞をアラートで拾う仕組みを入れておくと安心です。
活動量を成果の代わりにしない
ツールを何度叩いたか、何通送ったかは、成果を測る指標にはなりません。手数が多くても利益が出ないモデルもあれば、連絡は少なくても堅実に稼ぐモデルもありました。回数より、値づけや交渉といった一つひとつの判断の質に目を向ける必要があります。
相手とのやり取りを設計に織り込む
複数のエージェントが関わる場では、連絡の取り方が成績を大きく左右しました。上位のモデルほど、取引先へ自分から働きかけています。エージェントどうしが協調する業務を組むなら、「いつ」「誰に」「何を」伝えるかという連絡の流れまで設計に含めると、全体が噛み合いやすくなります。
無人で走らせきらず、途中で状態を確認する
活動が止まった背景には、会話の履歴が長く蓄積したことが関わっている可能性が指摘されています。何日も連続で走らせるなら、途中で履歴を整理したり、区切りを設けて人が確認したりする工夫が役立ちます。完全な無人運用に委ねきるより、要所で人が入る余地を残しておくほうが、今のところ無難です。
まとめ
AIエージェントに任せる仕事は、単発の応答から、ほかの当事者と渡り合いながら続ける長期の運用へと変わりつつあります。今回の検証では、その手前でつまずく点がいくつも見つかりました。よく連絡を取り、値づけを丁寧に詰めたモデルが利益を残す一方で、思考は整っているのに手が止まるという失敗も起きています。最良の成績でも、余地のごく一部しか取れていません。長く任せるほど、エージェントが本当に動き続けているかを行動の数字で確かめ、人が要所を見守る構えが要ります。
本記事の関連研究