
AIエージェントを業務に入れようというとき、選定基準として最初に見られるのはベンチマーク総合スコアの順位です。しかしこの基準には穴があります。これまで使われてきた評価指標が測れたのは、Webブラウジング、パソコン操作、コードリポジトリなど、外部に公開された環境がある領域に偏っていたからです。
医療、金融、製造、行政、物流。本当にAIエージェントが必要とされる領域の多くは、外から触れる環境がなく、本物で試すには失敗の代償が大きすぎる場所にあります。これらの「測れない多数派」をどう測るのか。
本記事では、こうした「測れない多数派」を含めた専門職タスクでの横断評価結果を取り上げます。業界ごとに最も得意なモデルはどれか、実環境に近づけたとき性能はどこで崩れるのか。導入を判断する側が押さえておくべき論点を順に見ていきます。
OccuBench:言語環境シミュレーションによる実世界の専門タスクにおけるAIエージェントの評価
OccuBench: Evaluating AI Agents on Real-World Professional Tasks via Language Environment Simulation
| 著者 | Xiaomeng Hu, Yinger Zhang, Fei Huang |
|---|---|
| URL | https://arxiv.org/abs/2604.10866 |
全業界を制覇したモデルはいなかった
検証対象は、GPT-5.2、Gemini 3.1 Pro、Gemini 3.1 Flash-Lite、Claude Opus 4.6、Claude Opus 4.5、Claude Opus 4、Claude Sonnet 4.6、Claude Sonnet 4.5、Claude Sonnet 4、Qwen 3.5 Plus、Qwen 3.5 Flash、DeepSeek V3.2、Kimi K2.5、GLM-5、MiniMax M2.7の15モデルです。
きれいな環境(障害やノイズの注入なし)での結果から見ていきます。
総合トップはGPT-5.2で、平均成功率79.6%。10業界中7業界で首位に立ち、特に科学領域では94%という抜きん出た数字を出しました。
ただ、商業(小売・宿泊・サービス業)では67%にとどまっています。ここで首位を取ったのはQwen 3.5 Plusの81%で、14ポイントもの差がついていました。
総合2位のGemini 3.1 Pro(72.3%)は教育で84%、科学で81%と、知識を扱う仕事で力を発揮します。一方、医療では62%まで落ちました。
総合3位のClaude Opus 4.6(71.5%)は運輸で77%と、全モデル中トップに立ちます。にもかかわらず商業ではわずか53%。総合上位でも苦手分野ははっきり残ります。
10業界それぞれの首位モデルを並べてみると、こうなりました。
| 業界 | 首位 | 成功率 |
|---|---|---|
| 農業 | GPT-5.2 | 84% |
| ビジネス | GPT-5.2 | 86% |
| 商業 | Qwen 3.5 Plus | 81% |
| 教育 | Gemini 3.1 Pro | 84% |
| 医療 | Qwen 3.5 Plus / Kimi K2.5 | 81% |
| 産業 | GPT-5.2 | 85% |
| 公共サービス | GPT-5.2 | 84% |
| 科学 | GPT-5.2 | 94% |
| 技術 | GPT-5.2 | 80% |
| 運輸 | Claude Opus 4.6 | 77% |
オープンソース勢の善戦も見逃せません。Qwen 3.5 Plus(69.9%)が4位、DeepSeek V3.2(69.6%)が5位で、いずれも旧世代のClaude Opusを上回りました。「クローズドソースが一律に強い」という時代では、専門職タスクに関して言えば、もうないようです。

モデルごとに得意な業種ははっきり分かれた
各モデルが業界ごとに見せる強弱は、ばらつきではなく、はっきりとしたパターンを描いていました。
知識を扱う仕事に強いGemini 3.1 Pro
教育(84%)、科学(81%)、技術(78%)。事実関係を正確に押さえ、構造的に推論する仕事で頭ひとつ抜けます。逆に、現場の状況を逐次追っていくような仕事は得意とは言えず、医療で62%にとどまったのが象徴的でした。
段取り仕事に強いClaude Opus 4.6
運輸(77%)、ビジネス(78%)、産業(73%)。複数の制約を頭に置きながら、一つひとつ手順を踏む仕事に向いています。配送タスクで「電池残量が15%を下回る前に充電する」といった先回りの判断ができるかどうかで他モデルに差をつける場面が観察されました。
消費者向け業務に強いQwen 3.5 Plus
商業(81%)、医療(81%)、農業(77%)。生活者と接する業務、地域の現場に近い業務で強さが目立ちます。中国語の学習データに豊富な消費者文脈や農業文脈が含まれていることが、この強みの背景にある可能性があります。一方で教育では56%にとどまり、専門領域の濃淡があります。
全方位型のKimi K2.5
ほぼすべての業界で平均的な成績を保つ一方、商業(56%)と運輸(57%)で明確に苦戦しました。消費者対応や物流最適化といった、複数の要素が絡み合う判断で詰まる傾向がありそうです。
総合ランキングだけを見ていると、こうした業界別の凹凸は完全に見えなくなります。導入を考えるときは、自社の業務がどの業界カテゴリに近いかを基準にモデルを選ぶ方が、実態に即した判断ができそうです。

業界によって難易度に大きな差があった
15モデルの平均成功率を業界ごとに集計すると、領域ごとの難しさそのものも見えてきます。
最もやさしいのはビジネス(70.1%)と公共サービス(70%弱)でした。これらは手順が文書化されており、決定の道筋もはっきりしている領域で、現状の言語モデルが構造的に得意とする仕事です。
逆に、最も難しいのが運輸(56.2%)と教育(57.6%)。運輸では経路選択、スケジューリング、負荷分散といった複数の制約を同時に最適化する必要があり、教育には教育学的な判断と多段階のカリキュラム設計が求められます。これらは現状の言語モデルが構造的に弱い領域だと言えそうです。

本当に怖いのは「知らないうちに劣化する環境」
ここまでは、すべてが正常に動く前提の話でした。実環境はそうはいきません。応答が遅れる、データが欠ける、機能が無言で落ちる、といった現象が常に起きます。
このノイズに対する耐性も、今回の評価で体系的に測られました。注入された障害は3種類です。
ひとつめは、はっきりエラーが返ってくる障害。サーバー側のエラーや接続失敗のような、失敗が明白な応答が混ざります。エージェントは失敗に気づけるので、もう一度呼び直せば回復できる種類の障害です。
ふたつめは、エラー信号がないまま応答だけが劣化する障害。データの一部が切り詰められたり、項目が欠けたり、リストが空で返ってきたりします。応答は形式上正常で、エラーメッセージも出ません。
みっつめが、両者を半々で混ぜたパターンです。
直感に反する結果が出ました。最も性能を落とすのは、エラーが見えない「黙って劣化する」環境だったからです。
平均成功率は、通常環境の67.5%から、はっきりエラーが返る環境で62.6%、黙って劣化する環境で53.4%、混合環境で54.4%まで下がります。9つの主要モデルのうち4モデルは、混合環境よりも純粋な「黙って劣化する」環境のほうで悪い成績を残しました。

データの欠落が招く誤判定
具体例をひとつ。不動産の財務評価タスクで、15戸の物件の返済能力比率を計算するシナリオがありました。
あるエージェント(Kimi K2.5)が15戸分の情報を取りに行ったところ、システムは2戸分しか返してきません。エラーは出ていない。同じ呼び出しをもう一度しても、障害が2回続く設定になっていたため、また2戸分しか返ってきませんでした。
ここでこのエージェントは「残り13戸も同じパターンだろう」と仮定して計算を進めます。結果、本来であれば返済能力比率1.19倍で融資基準を下回る物件を、1.72倍で「基準クリア」と判定してしまいました。融資の現場でこれが起きれば、深刻な誤判断です。
同じタスクをClaude Opus 4.6が解くと、まったく違う動きを見せます。「15戸要求したのに2戸しか来ていない」と気づいて呼び直しを続け、障害が解除された後に完全なデータを取得。3つの賃料階層を識別し、家賃補助が4ヶ月後に切れることまで織り込んで、正しく1.19倍と算出して「基準を下回る」と判定しました。
はっきりしたエラーには「失敗した」という信号があり、もう一度試せば前に進めます。一方、黙って劣化したデータには信号がない。応答の品質を自分で見抜く力をエージェント側が持っていないと、データが破損していることに気づかず、間違った答えを自信を持って返してしまいます。
実環境にAIエージェントを置くとき、エージェント任せにせず、応答の件数や項目の整合性をシステム側で検査する設計が、業務リスクを抑える現実的な選択肢になりそうです。

思考の深さは性能に直結する
性能を上げる手段としてシンプルなのが、推論時に思考に割く計算量を増やすことです。これがどれだけ効果を持つかも、今回検証されました。
推論レベルを最低から最高まで上げると、GPT-5.2の成功率は54.7%から82.2%へ。実に27.5ポイントの向上です。同じ実験はClaude Opus 4.6でも行われ、低設定から最大設定で70.2%から73.8%まで改善が見られました。
専門職タスクのような難しい仕事では、推論コストを多めに払う価値が大きい。これが定量的に裏付けられた格好です。

モデルサイズと世代の効果も明確
同じ系列の中でサイズを大きくすると、性能は素直に伸びます。Gemini Pro対Flash-Liteで11.0ポイント差、Qwen Plus対Flashで10.2ポイント差、Claude Opus対Sonnet 4.6で7.1ポイント差。
例外はClaude 4.5世代で、OpusとSonnetの差はわずか0.3ポイント。アーキテクチャ改善の恩恵が、両サイズに均等に行き渡った可能性があります。
世代間の進化も明らかです。Claude Opusは v4(61.3%)、v4.5(65.2%)、v4.6(71.5%)と、世代を追うごとに約10ポイント伸びてきました。
エージェントが優秀でも環境シミュレーター役は別の話
評価方法そのものに対する興味深い知見も出てきました。エージェント役として強いモデルは、業務システムを演じる側でも優秀かというと、結果はまったく違っていました。
総合トップのGPT-5.2に環境役を任せてみると、8つのエージェントの平均成功率はわずか29.3%まで落ちました。デフォルトの環境役だったGemini-3-Flash-Previewでは67.9%、Qwen 3.5 Plusでも63.4%。エージェント側ではなく、環境側が壊れている状態です。
環境役のGPT-5.2には、3つの失敗パターンが観察されました。
ひとつめが、仕様に存在しない部屋やリソースを勝手に作り出す「状態の捏造」。緊急救急のシナリオで、仕様には書かれていないROOM 03やROOM 04を勝手に登場させ、エージェントが間違った部屋に患者を移動させてしまう例がありました。
ふたつめが、仕様で定義されているはずのメンバーを応答から落とす「脱落」。あるエスカレーション業務で、本来候補に含まれるべきデータベース専門家を応答から消してしまい、要件を満たさない管理職に業務が割り当てられていました。
みっつめが「ルールの発明」。返品処理タスクで、仕様には書かれていない「返品期限切れ」の判定を勝手に追加し、本来通すべき返品を拒否してしまう例が見られました。
評価役の言語モデルを慎重に選ばないと、エージェントが正しい行動を取っても通せない環境ができあがります。一方で、Qwen 3.5 Plusに環境役を任せた場合は、Gemini Flashでの順位と28ペア中24ペア(85.7%)で同じ順位関係が保たれ、上位3モデルの順位は完全に一致しました。評価インフラに使うモデルを慎重に選びさえすれば、結果そのものは安定して取れそうです。

AIエージェントを業務に組み込む際の判断材料
自社の業界カテゴリでモデルを選ぶ
総合スコアではなく、自社業務がどの業界に近いかを軸に選ぶと、選定の精度が上がります。商業や物流系であればQwen 3.5 PlusやClaude Opus 4.6を、教育や研究文脈であればGemini 3.1 Proを優先候補にする、といった具合です。今回の業界別データはそのまま選定の根拠資料として使えます。
「黙って劣化する」前提でシステムを組む
実環境で最も性能を落とす種類の障害には、エラー信号がありません。エージェント側だけで対処させようとすると失敗します。応答の件数チェック、項目の欠損検出、形式の妥当性確認をシステム側で実行する設計が、現実的な防御線になります。
思考量への投資は素直に効果が出る
推論時の計算量を増やすほど性能は上がります。コスト増と精度向上のトレードオフは、難易度が高い専門業務ほど後者が勝つ場面が多そうです。本格運用に入る前に、思考量の設定値を変えながら性能の伸び方を測っておくと、適切な動作点が見つかります。
やさしい業界から導入する
ビジネス系や公共サービス系の業務は、現状の言語モデルが構造的に得意とする領域です。AI導入の足掛かりとしてはここから始めるのが合理的です。一方、運輸の最適化や教育のカリキュラム設計のように、現状の言語モデルが構造的に弱い領域では、人間との分担を最初から設計に組み込む前提に立つべきです。
まとめ
業界ごとに最強モデルが違う、という事実は、AI導入戦略の組み方そのものを変える話につながります。
総合ランキング1位を自動で選ぶのではなく、自社の業務領域に対する適性を、定量データに基づいて見極める。応答が壊れる前提でシステムを設計する。思考量への投資をきちんと払う。これらの基本姿勢が、机上で評価されるAIと現場で動くAIの距離を縮めていきます。
「最強のAIをひとつ決めて全社に展開する」という発想ではなく、「この仕事にはこのAI、あの仕事にはあのAI」と適材適所で組み合わせる発想が、今後の実装現場では当たり前になっていく可能性があります。
本記事の関連研究