マイページに保存

最終更新日：2019/10/31

AIが臨場実験に至るまでの課題とは？

人々の心を捉え、想像力をかき立てる医療用AIだが、実際に幅広く臨場実験が行われるまでには未だ長い道のりがある。

カナダの研究者グループは、Journal of Medical Internet Researchにて7月10日に発表された論文の中で、考えられる主な問題点を分類して発表した。

トロント大学のJames Shaw博士は、機械学習が使用される場面を、『自動化』と『意思決定の支援』という2つの大きなカテゴリに分類した。そしてNASSSのフレームワークに従って、AIが市場に浸透している度合と、それ以外のテクノロジーが市場に浸透している度合を比較した。

NASSSとはテクノロジーのNonadoption(非採用)、Abandonment(放棄)、そしてScale-up(規模拡大)、 Spread(普及)、 Sustainability(持続可能性)への取り組み、という４つの単語の頭文字を取った語である。

著者は、意思決定を支援するアプリケーションが、少なくとも短期的には、自動化に向けてこうした点をリードするであろうと示している。

NASSSの枠組みに従って、研究者グループは意思決定支援AIの実装を妨げる様々な問題を概説している。

以下は特に強調されている点だ。

1. AIは意義のある意思決定支援ができるか？

臨床での意思決定は『様々なデータを統合して、暗黙的と明示的の両方の知性を組み込んだ複雑なプロセス』と言われている。

この意思決定プロセスをより直感的に知らせるために、AI開発者はデータの視覚化などのコミュニケーションツールを追加している。 「こうしたコミュニケーションツールの本質と価値は実装プロセスの中心にあり、アルゴリズムの出力が日常の業務に組み込まれているかどうか、またどのように組み込まれているかを判断するのに役立ちます」

2. 医療従事者はAIの仕組みを説明できるか？

ヘルスケアAIは、どのように目的を達成するのか？Shawらの指摘によると、AIを作ったコンピューター科学者でさえ、その答えが分からないままになっていることが多いという。

「AIのメカニズムや設定が理解されなければ、医療従事者が機械学習を受け入れる際に課題が生まれてしまいます」と研究者グループは述べている。 「ここで示されているように、AIの仕組みを説明できるかという問題は、機械学習の意思決定支援を使用する場面で必ず出てきます。AIが医療現場で注目され、自動化を中心に使用される場合には、さらにこの問題が顕在化する可能性があります」

3. プライバシーとデータ使用の同意に関する問題

ウェアラブルデバイスからのデータを適切に使用するための法律や指導が欠けている。にも関わらず、多くの健康関連のアプリでは、その利用によって生成されたデータの流れに関する同意プロセスが不透明である、と研究者グループは述べている。

こうした明白な懸念に加えて、個人識別が解除されたデータは、他のデータセットとリンクされると再度識別可能になる可能性もある。 「このような考慮すべき事項は、健康データを機械学習アプリケーションの開発で使用可能にしようと先駆けている集団にとっては大きなリスクとなり、医療従事者からの抵抗につながる可能性があります」と著者は書いている。

4. アルゴリズムの偏り

「アルゴリズムの正確さは、それらを訓練するために使用されるデータと同程度になります」とShawらは述べている。

「訓練データが部分的または不完全であるか、特定の母集団の部分集合しか反映していない場合は、結果的に得られるモデルはデータセット内で表される人々の数にしか関連しません。データの出所に問題がある、となると、意思決定に情報を提供するために使用されるアルゴリズムに組み込まれるバイアスも問題であるということになります」

5. 拡張性と通常の事故

AIアプリケーションが医療業界全体に広がるにつれて、一部のアルゴリズムの出力が他のものと混同されたり、矛盾したり、相対することは避けられない。

「この相互作用の影響を事前に予測することは不可能です。部分的には、相互作用する特定のテクノロジーが不明確であり、通常のケアの過程ではまだ実装されていない可能性があるためです」「AIを実装する科学者は、医療の場でのML(機械学習)の実装とその規模について意図しない状況が引き起こされること、また患者、医療従事者、そして一般市民の安全を脅かすリスクが生まれ、複雑化することを考慮しておく必要があります」

Shaw氏と研究者チームは、企業の役割と変わりゆく医療業務の性質に合わせて、実装上の障害を解消している。

医療現場でのAI使用―未来は関係者全員の手の中に

概観と予測のまとめとして、著者は医療分野における機械学習の未来を「明るいが不確実」と述べている。最新技術は受け入れられ、利用されるのだろうか？大部分はあらゆる医療従事者、患者、技術提供者、そしてAI開発者の手にかかっていると言われる。

「機械学習の応用はより洗練され、データの視覚化などのコミュニケーション改善にはさらに投資がなされ、機械学習はユーザーフレンドリーで効果的になる可能性があります」とShawらは書いている。「AIを実装するコミュニティがあらゆる人の利益になるように機械学習の採用を進めていくのであれば、この論文で取り上げた問題は、今後の数年間でかなりの注意を集めることでしょう。」

原文
https://www.aiin.healthcare/topics/connected-care/5-hills-ai-must-conquer-healthcare

マイページに保存