言語モデルや画像生成モデルといった生成AIは、その能力の高さで注目を集めています。しかし、このようなAIが示す「知性」には予期せぬ特徴があるかもしれません。

ワシントン大学の研究者たちは「生成AIのパラドックス」という新しい仮説を提唱しています。研究者らは、生成AIが高度な出力を生み出すことができる一方で、その出力についての理解は必ずしも伴っていないという、一部のユーザーにとっての直感に反する現象を指摘しています。
例えば、AIが創造した物語について質問されたとき、その内容を正確に理解していないために誤った回答をしてしまうことがしばしばあります。

この記事では「生成AIのパラドックス」に関する論文をもとに、生成AIの背後にある思考プロセスが人間とは根本的に異なる可能性について、背景と仮説の根拠例、そして今後の検証課題に焦点を当てて紹介します。

参照論文情報

・タイトル：The Generative AI Paradox: “What It Can Create, It May Not Understand”
・著者：Peter West, Ximing Lu, Nouha Dziri, Faeze Brahman, Linjie Li, Jena D. Hwang, Liwei Jiang, Jillian Fisher, Abhilasha Ravichander, Khyathi Chandu, Benjamin Newman, Pang Wei Koh, Allyson Ettinger, Yejin Choi
・所属：University of Washington, Allen Institute for Artificial Intelligence
・URL：https://doi.org/10.48550/arXiv.2311.00059

※ただし本研究の主張については論文執筆時点での生成AIの能力を基にしています。モデルのアップデートによって能力が向上し、本研究で示されているような欠点的特徴が補完されていく可能性があります。

本記事の関連研究：LLMは世界モデルを持ち「物事がどのように位置づけられ、時間がどのように進行するか」を理解する可能性

背景と従来の課題

現代の生成モデルの能力

現代の生成モデルは、言語や画像の生成において、専門家の能力をときに凌駕するほどの成果を上げています。これらのモデルは、数秒で、専門家が何年もかけて習得するスキルや知識に匹敵する出力を生み出します。このような能力は、すでにAIは人間の知能に近いという主張の根拠となっています。

しかし、これらのモデルの出力を詳しく調べると、非専門家の人間でさえ予期しないような基本的な理解の誤りが明らかになることがあります。
生成モデルは、訓練された専門家のような出力を再現することには長けていますが、それらの出力を理解する能力は必ずしも伴っていない可能性があります。人間の場合、「基本的な理解」が「専門家レベルの出力を生み出す能力」に先行することがほとんどですが、AIにはそこに必然性はないのかもしれません。

生成と理解の乖離

AIの生成能力が理解能力を超えることから、AIと人間の知能の構成は異なる可能性が示唆されています。AIの能力マップは、人間のそれとは根本的に異なるかもしれません。
AIの能力が人間の知能を模倣、あるいは超えるように見える一方で、能力の輪郭は人間の認知の予想されるパターンから基本的に逸脱している可能性があります。

AIが生成タスク（例えば、文章や画像を作り出すこと）を行う際、主に学習したデータを元に新しい内容を作り出すことを目指しています。しかし、AIが実際にその内容を「理解」しているわけではなく、ただ目標を達成するため（例えば、人間が読んで意味が通じる文章を生成するなど）に、そのような「理解」が偶然にも役立つ場合にのみ、AIは「理解」しているように見えるのかもしれません。

一方で人間の学習プロセスは、完全には理解されていませんが、単に周りからの情報を再現するだけではなく、より多面的理解を伴う複雑なプロセスを踏んでいる可能性があります。よって、AIの学習とは異なる可能性があります。

本記事の関連研究：DALL-E 3はどうしてユーザーの意図を正確に汲み取ることができるのか？OpenAIが論文で発表

『生成AIのパラドックス』仮説と根拠例

『生成AIのパラドックス』は、AIが人間のような出力を生成する能力を持ちながら、それを理解する能力は必ずしも伴わないという仮説です（仮説を立てるに至った背景は、前章を参照）。

言語能力における例

GPT-4は、