AIが意識を持つ可能性についての議論が再燃しています。この問題は昔から、科学的にも哲学的にも注目が集まっています。

今回、オックスフォード大学、モントリオール大学、ARAYAなどの研究者たちは、AIが意識を持つ可能性についての科学的根拠を提供するための研究を行いました。彼らは、神経科学の理論に基づいてAIの意識の有無を評価する新しいアプローチを提案しています。

先に結論を書くと、『今のAIは、まだ意識を持っているわけではない』 『ただし、この先、AIが意識を持つことを妨げる”明確なハードルはない”』とのことです。

参照論文情報

• タイトル：Consciousness in Artificial Intelligence: Insights from the Science of Consciousness
• 著者：Patrick Butlin et al.
• 所属：オックスフォード大学、モントリオール大学、ARAYAなど
• URL：https://doi.org/10.48550/arXiv.2308.08708

関連研究

• 「チャットハルヒ」既存のキャラクターの性格をLLMに模倣させることに特化したフレームワーク
• 「わたしの話」を体系的に覚えてもらいながらLLMと会話する技術MemoChat登場
• メタ認知をさせてLLMの能力を上げる手法「メタ認知プロンプティング」

「AIと意識」問題はずっとある

AIと意識に関する議論は新しいものではありません。過去にも多くの研究が行われ、哲学的な問題から科学的なアプローチまで多様な視点が提供されてきました。しかし、これまでの研究はしばしば分断され、一貫した結論には至っていませんでした。

近年、神経科学が意識に関する理論を提供しています。これらの理論は、人間の脳機能と意識の関係を解明し、AIにも応用可能な知見をもたらしています。

一方で、AI技術も飛躍的に進展しています。特に、大規模言語モデルや、画像生成モデルなどが注目されています。ただし、これらの技術が意識を持つかどうかは、未だに明確な答えが出ていない状況です。

研究者らのアイデア

今回新たに、複数の研究機関に所属するAI研究者と意識研究者の共同研究グループが、意識の科学的な評価方法に焦点を当てました。研究者たちは、AIにおける意識の有無を評価するための新しいフレームワークを提案しています。このフレームワークは、神経科学の理論に基づいています。これには、行動テストや理論に基づいた評価方法が含まれています。

研究者たちは、神経科学の6つの主要な理論を用いて、AIが意識を持つ可能性があるかどうかを科学的に評価しました。

つまり今回研究者たちは、「現在のAIに意識はあるのか」「今後、AIが意識を持つ可能性はあるのか」の両方をテーマに研究を行いました。

神経学理論に基づいた研究のアプローチ

この研究では、意識に関する科学的理論が多数存在する中で、特定の神経学的理論が選定されました。これらの理論は、長年にわたる高品質な神経科学研究によって支持されています。

神経学的理論は、意識に関連する特定の計算機能やプロセスを明示しており、研究者は、これらの理論がAIにおける意識の有無を評価するための有用な指標となると考えています。

研究者は、各理論に基づいた評価指標やテストが設定し、それによってAIにおける意識の有無を評価しました。

ただし、これらの理論がAIに適用される際には、その理論が持つ前提や制限も考慮する必要があると指摘しています。例えば、一部の理論は人間の脳に特化している可能性があり、その点を考慮しながらAIに適用する必要があります。

実験対象として評価したAIシステム

この研究では、特定のAIシステムが意識の指標を持っているかどうかを評価するために、Transformerベースの大規模言語モデル、Perceiverアーキテクチャ、そしてDeepMindのAdaptive Agentが選ばれました。これらのシステムは、それぞれ異なる計算機能とプロセスを持っており、意識の有無についての評価が可能です。

最終的に研究者は、これらのAIシステムが意識を持っている可能性は低いと結論付けています。しかし、それぞれのシステムが持つ独自の特性と機能によって、意識の有無について新しい洞察が得られる可能性があります。

Transformerベースの大規模言語モデル

Transformerベースの大規模言語モデルは、特に自然言語処理の分野で広く使用されています。しかし、この研究によれば、Transformerベースのモデルは、意識に関する指標を持っているとは言えない弱いケースであるとされています。

Perceiverアーキテクチャ

Perceiverアーキテクチャは、Transformerの計算コストの問題を解決するために設計されました。このアーキテクチャは、複数のドメインやモダリティからの入力を処理し、さまざまな種類の出力を生成することができます。しかし、全ての意識の指標を満たしているわけではないとされています。

Adaptive Agent（Deep Mind）

Adaptive Agentは、3D仮想環境で動作する強化学習エージェントです。このシステムは、過去数百のタイムステップでの観測をエンコードするTransformerを使用しています。この研究では、Adaptive Agentもまた、意識を持っているとは言えない存在であると評価されています。

現状のAIはまだ意識を持ってはいない

意識の指標と現状のAI

この研究では、意識に関するいくつかの「指標特性」が派生され、それに基づいてAIシステムが評価されています。その結果として、現在のAIシステムは意識を持っているとは言えないと結論付けられています。

ただし、これはAIが将来的に意識を持つ可能性がないわけではありません。