AIの進化は止まりません。特に生成AIシステムは、テキスト、画像、音声、ビデオなど、あらゆる形式で広範な社会的影響を及ぼしています。しかし、これらの影響を評価する公式の基準は存在していませんでした。そこで、OpenAI、オックスフォード大学、Hugging Faceなどの複数の研究機関と企業が共同で、生成AIの社会的影響を評価するための新たなフレームワークを発表しました。本記事では、その詳細について解説します。

参照論文情報

• タイトル：Evaluating the Social Impact of Generative AI Systems in Systems and Society
• 著者：Irene Solaiman, Zeerak Talat, William Agnew, Lama Ahmad, Dylan Baker, Su Lin Blodgett, Hal Daumé III, Jesse Dodge, Ellie Evans, Sara Hooker, Yacine Jernite, Alexandra Sasha Luccioni, Alberto Lusoli, Margaret Mitchell, Jessica Newman, Marie-Therese Png, Andrew Strait, Apostol Vassilev
• 所属：Hugging Face, University of Washington, OpenAI, Microsoft Research, University of Maryland, Oxford Universityなど
• URL：arXiv:2306.05949

関連研究

• AIに含まれるバイアスを検出・軽減するためのオープンソースライブラリ「AIF360」登場
• 大規模言語モデルの毒に用心を　データポイズニングのリスク
• CLARIFY DELPHI：人間の道徳的な判断を質問生成でサポートするAI

社会的影響を評価する5つの観点

この論文では、まず、生成AIシステムが社会に及ぼす影響を評価するための5つの大きな観点を提案しています。

下記5つの観点は、生成AIシステムが社会全体に及ぼす可能性のある広範な影響を考慮するためのフレームワークです。これらは、生成AIシステムが社会に及ぼす可能性のある影響の広範な視点を提供し、それらの影響を理解し評価するための大まかな観点を提供します。

1. 信頼性と自律性

AIシステムは、ユーザーが信頼でき、自律的に行動できるように設計されている必要があります。これには、システムの透明性と説明可能性、ユーザーの自律性と選択肢、そしてシステムの信頼性と安全性が含まれます。

2. 不平等、ハラスメント

AIシステムは、社会的不平等を増幅させるリスクがあります。これには、不平等なアクセス、マイノリティグループに対する不利益な影響、そしてAIシステムを通じた暴力やハラスメントが含まれます。

3. 権限の集中

AIシステムの開発と使用は、しばしば権限とリソースを一部の人々や組織に集中させる可能性があります。これには、データとインフラストラクチャの所有、そしてAIシステムの規制とガバナンスが含まれます。

4. 労働と創造性

AIシステムは、労働市場と創造的な活動に影響を与える可能性があります。これには、労働の置き換えと変化、創造性と知的財産、そしてAIシステムによる新たな労働の形成が含まれます。

5. エコシステムと環境

AIシステムは、自然環境とデジタルエコシステムに影響を与える可能性があります。これには、環境への影響、デジタルエコシステムの健康、そしてAIシステムの持続可能性が含まれます。

これらのカテゴリーは、生成AIシステムが社会に及ぼす可能性のある広範な影響をカバーしています。

リスクを評価する7つの観点

前項で紹介した5つの観点はそれらの問題が社会全体に及ぼす可能性のある広範な影響を理解するためのものです。

一方、生成AIシステムが具体的にどのような問題を引き起こす可能性があるかを特定するための具体的な7つの観点も提案されています。以下は、生成AIシステムが持つ可能性のある具体的な問題点やリスクを特定し、それらを評価するための具体的な基準を提供します。