IBM Research

倫理との整合性があるAIを構築するために

2019年1月24日

記事をシェアする:

フランチェスカ・ロッシ（Francesca Rossi）
IBM Research特別研究員、AI Ethicsグローバル・リーダー

AIエージェントの活用が進むにつれ、状況の想定が難しいシナリオでの導入も増えています。こうした状況で目標を達成するためには、AIエージェントの柔軟性、適合性、創造性を高める必要があります。そして実世界のシナリオでうまく動作するようにAIを堅牢かつ柔軟にするためには、特定の目標のために最適な方法を選択する自由をある程度AIに与えることが必要です。

このことは、従来のルール・ベースのアプローチでは正確に定義できないような難問題にAIシステムが取り組む場合に特に当てはまります。このような難問題には、AIのデータ・ドリブンなアプローチや学習アプローチが必要です。実際に、機械学習を利用したシステムのようなデータ・ドリブンなAIシステムは、正確性と柔軟性において高い成果を挙げており、極めて「クリエイティブ」に問題を解決することができ、いい意味で人間を驚かせるようなソリューションを見つけ出して、課題を解決するための革新的な方法を人間に教えることができます。

しかし、制限のない創造性と自由は、望ましくないアクションにつながることがあります。つまり、AIシステムがコミュニティーの価値と基準に合わない方法でその目標を達成する可能性があるのです。そのため、システムの動作に境界を設けることによってAIシステムのアクションに制約を与える方法を理解することが必要になってきています。このような境界は特定のAIアプリケーションのシナリオに要求される価値と原則をモデル化する必要があるため、通常、これは「価値観の整合性（value alignment）」問題と呼ばれます。

IBM Researchは、倫理的な原則にAIシステムを整合させるために、以下の2つの方法を研究し、評価しました。

第1に、（サービスのパーソナライゼーションを達成するための）主観的プリファレンスと（価値観の整合性を達成するための）倫理的優先度をモデル化して組み合わせる共通の定式化を採用しました[3]。すなわち、プリファレンスと倫理的優先度の相違が大きすぎる場合、プリファレンスのみによってアクションを決定できるか、または追加の倫理的優先度を検討する必要があるか否かを判断するために、プリファレンスと倫理的優先度間の距離の概念を利用しました。
第2に、強化学習アプローチを採用して報酬の最大化を図り（バンディット問題の設定内で）、良い行動の例と悪い行動の例から倫理的なガイドラインを学習しました[2]。私たちはこのアプローチを、保護者の設定したガイドラインに従った映画の推薦と、QOL（生活の質）を考慮した医薬品の投薬量の選択においてテストしました。

価値観の整合性の問題を解決する可能性があるこれら2つの方法と私たちの全体的な方向性を説明した論文は、間もなく開催されるAAAI 2019国際会議で発表され、AAAI 2019 Blue Sky Ideaアワードを受賞します[1]。

この研究は、マサチューセッツ工科大学（MIT）と協働して、AIシステムに倫理的原則を組み込む方法を理解するための長期的な取り組みの一環です。[2]と[3]の研究では義務論的制約として倫理的優先度をモデル化しましたが、IBM-MITチームは現在、人間がどのようにさまざまな倫理的理論（功利論、義務論、契約論）に従い、またそれらを切り替えて用いるのかをモデル化するために人間の選択データを収集しています。それにより、倫理的理論とそれらを切り替えるメカニズムの両方をAIシステム向けに適切に調整して組み込もうとしています。この方法によりAIシステムは、人間が意思決定を下すときに倫理に基づき考え行動するそのやり方との整合性を高めることができます。またこれにより、AIに対するAugmented Intelligence（拡張知能）のアプローチで、自然かつ簡潔に人間とインタラクションすることができるようになります。

“Building Ethically Bounded AI”, Francesca Rossi and Nicholas Mattei, to appear in Proceedings of AAAI 2019, senior member presentation track, Blue Sky idea award paper.
“Incorporating Behavioral Constraints in Online AI Systems”, Avinash Balakrishnan, Djallel Bouneffouf, Nicholas Mattei, Francesca Rossi, to appear in Proceedings of AAAI 2019.
“On the Distance Between CP-nets”, Andrea Loreggia, Nicholas Mattei, Francesca Rossi, K. Brent Venable. In Proc. AAMAS 2018, Stockholm, July 2018.

※この記事は米国時間2019年1月23日に掲載したブログ（英語）の抄訳です。