「良い人生」の観念は文化や個人で異なるものの、ともかくAIは人間の「良い人生」を支えるものにしていこう、とのこと。
Google DeepMind、OpenAI、Anthropicなどの研究者がこの方向性を共同で打ち出し、『ポジティブアライメント』と名付けています。
今「AIは人間の繁栄を積極的に支える」 方向を本格化させるべきだ、という提言です。
これまでAIの”ふるまい”調整は「害がない」に偏ってきました。
しかし、人間の世界で病気の治療だけでなく「良い人生」そのものを扱う分野(ポジティブ心理学)が発展してきたことと同じようにAIも発想を転換する必要がある。
実際に、データ収集・事前学習・事後学習・評価・ガバナンスまで、開発の全工程に「繁栄を支える」観点を組み込む技術も併せて提案しています。
ただし、単一の価値観を押し付けるとモノカルチャー化のリスクがあります。
そのため「1つの正解を埋め込むのではなく、コミュニティごとに価値観を調整できるようにしよう」と。
将来的には、ユーザーの自律性や成長、関係などを長期的に追跡する開発も視野に入っているそうです。(この点は慎重な議論が必要です)