人間中心のAIとは？

記事をシェアする:

自動車の自動運転、創薬、ニュースや情報の選択、投資先の決定など、様々な領域でAIによる自動化が進んでいますが、いずれにおいても共通の課題は人間そのものです。AIの設計、運用、利用において、人間が決定的要因であることを認識しないと、AIの長期的な成功はありえません。

Human-Centered AI (HCAI) は、人間の能力を置き換えるのではなく、人間の能力を増幅し強化するようなAIシステムを作るという考え方です。HCAIでは、人工知能が透明性を持ち、公平な結果をもたらし、プライバシーを尊重しつつ、人間のコントロール下にあって、私たちのニーズを満たすことを最も重要視します。

IBMリサーチでは、IBMの製品、顧客、そして社会全体のために人の能力を拡張して強化するような、「人間とAIのインタラクションと体験の新しい形を徹底的に調査しデザインする」ことを、HCAI戦略にしています。そのために、ヒューマン・コンピューター・インタラクション(HCI)、コンピューター支援協調作業、データ可視化やAIに関するデザインなどを専門とした研究者を巻き込んだ学際的なアプローチをとっています。そして、AIシステムの成功のために必須であると考えて探求しているのが、次に挙げる3つの重要なテーマです。

人とAIの協力・共創

私たちは「人+AI」はそれぞれ単独よりも良くなるべきという価値観にこだわり、人とAIの協調作業を可能にする新しいユーザー体験と可視化の開発を行っています。また、人とAIのインタラクション・モデルのデザインや評価のためのフレームワークの設計と、人とAIの協力・共創の理論の開発や拡張のための理論的な研究も進行中です。データ・サイエンスは、人とAIが協力して働くことで、データから意味のある洞察を探り出す能力を高めるられる優れた例になっています。データ・サイエンティストにとって最も難しいことの一つは、巨大で、性質も異なる複数のデータセットをうまく結びつけて分析し、複雑な問題を解くのに有用な洞察を導き出すことです。そのために、データ・サイエンティストはモデルを何回も作り、モデルの精度を評価し、また公平性とロバストネスの観点でも検討しつつ、ハイパー・パラメーターをチューニングして最適化しなければなりません。

まず、私たちは人間中心のアプローチをとって、データ・サイエンティストがその作業を自動化する際のやり方を理解しようとしました。その過程において、データ・サイエンスの将来は、自動化と人間の専門知識の両方が不可欠となる「人間とAIシステムの共同作業」にあることがわかりました¹。IBMは、この洞察に基づいて、データ・サイエンティストが高品質で高精度な機械学習モデルを、もっと早くもっとたくさん作ることができるようなAutoAI技術を開発しました²。また、データ・サイエンティストが、機械学習パイプラインを比較したり、精度やバイアスなどの様々な評価尺度で評価することを容易にする、可視化の技術も開発しています³。

人間と同じ価値観を持ち責任あるAI

このテーマでは、ユーザーや間接的に影響を受ける人たちに対して、そして、社会全般に対して、人間中心のAIシステムがどのようにして良い効果を生み出しうるかを研究します。そのような良い効果を実現するために、HCAIは公平で、バイアスがなく、安全で、倫理的に運用され、ユーザーのニーズに応えるために使われなければなりません。

人と同じ価値観を持ち、信頼できるAIを開発するための作業では、いくつかの要因を考慮に入れなければいけません。考慮すべき要因には、どのようにして、人がAIシステムと関わり、AIシステムを信用するかについて理解する必要も含まれます。そして、AIモデルの動作の説明性を高めるとともに、人間側の理解を深める必要性もあります。HCAI戦略には、AIシステムの利用による負の影響や潜在的な誤用の可能性について正確に推定すること、人間とAIのバイアスを緩和する方法の模索、AIシステムを人間がどのように理解するか（また誤解するか）の観測などが必要となります。

IBMリサーチでは、IBMの各事業部との社内的な協業により、人と同じ価値観を持ち信頼できるAIを実世界で実践しています。たとえば、IBMリサーチ、Chief Analytics Office、Chief Information Officeが協力して、IBMの営業部やビジネス・パートナー・エコシステムが使うツールにAIを組み込むためのアセット群を作成しました。その一例がSCOREエンジンです。

SCOREは、営業データやIBMの営業、ビジネス・パートナー(BP)や顧客から得られるフィードバック・データから学習したAIモデルで、それぞれの見込み顧客に対して最適なBPをレコメンドします^{4 5}。SCOREが信頼を得るためには、なぜ、この見込み客に対して、あるBPをレコメンドしたのか、明確な根拠を提示する説明性機能が極めて重要でした。そして、SCOREの展開と利用は、2018年から2億1400万ドルの売り上げ増加と、いくつかの名誉ある賞の受賞につながりました。

営業、財務、人事などさまざまな領域でIBMの研究員が携わったAI応用プロジェクトから、一般化可能な深い知見が得られることがあり、機械学習を実践的に利用するユーザーのためのAIデザイン・ガイドラインとしてまとめています。たとえば、様々な領域のユーザーが、様々なユースケースに利用することができるようなAIの説明性のガイドライン(XAI) を開発しました。

私たちは、AIモデルをインタラクティブに操作し、解釈・理解するためのデータ可視化アプローチを利用しています。例として、AIで自動的に生成されたテキストであることを見破るのを助けるツール GLTRや、説明的なテキストの生成の際に人とAIのハイレベルな共同作業を可能にするインタラクティブなビジュアル・システムであるGenNIなどがあります。

自然言語インタラクション

先進的な対話システムによって実現した対話的なユーザー・インターフェース(CUI)は、近年実用が広まっています。その結果、たくさんの知的アシスタントが、ビジネス目的にもエンターテインメント目的にも開発されています。私たちは、このテーマで、「どのようなタスクが対話システムに向いているのか」「効率的なタスク」「人にとって心地よく使いやすいインタラクティブ体験をデザインする方法」などを理解する研究を行っています。

あるプロジェクトでは、音声とテキストのそれぞれのチャットにおいて、AIによるカスタマー・サービス・エージェントが使う言葉遣いのフォーマルさの影響を調べています。多くの言語と文化において、フォーマルな言葉遣いはジェンダーと結び付けられているため、AIが女性エージェントや男性エージェントのそれぞれのふりをする場合の言葉遣いの影響を調べ、人間が行うカスタマー・サービスに対して持たれている期待と比較しています。

私たちの初期の発見として、ブラジルにおけるカスタマー・サービスでは、伝統的なジェンダー・ステレオタイプからすると意外な方向性が見出されています。ブラジル・ポルトガル語では、人間のエージェントにはフォーマルな言葉遣いが好まれるのに対して、機械の音声対話システムではSiriやAlexaが使っているようなフォーマルな言葉遣いが好まれるとは限らないということがわかりました。しかし、テキスト・ベースのチャットボットの場合は、女性の外見をしたシステムは「くだけた言葉遣い」、男性のシステムでは「フォーマルな言葉遣い」が強く好まれる傾向が見出されました^{6 7}。

HCAIのこれからの最前線

私たちが開発する技術がますます知的で自律的になっていくと、私たちのこれらのシステムとのインタラクションも変わらなければなりません。

人間とAIの真のパートナーシップを効果的にサポートする際の重要な質問の一つは、AIシステムとユーザーによる共通の目的の達成をどのように実現するかです。伝統的なAIソリューションでは、パフォーマンスや精度を最適化することに集中してきましたが、これらの尺度は人間が意思決定をする際に、毎日のようにバランスを考慮している、個人性、公平さやその他のたくさんの価値を内包するものではありません。

人間中心のAIの第二の問題は、人間の創造的なパートナーになるようなAIシステムのデザインを考え、理解することにあります。ビジネスの世界で、人間とAIが協力して実現する創造性の例としては、事業領域の専門家がAIシステムと協力して「プログラム・コードを生成」「ユーザー体験を共同で設計」「化学的発見を加速」などが含まれます。

物理的な作業であれ、デジタル的な作業であれ、物を作る体験はこれからますますAIとの共同作業になっていくだろうと、私たちは想像しています。そこでは、人が仕様を決め、ゴール・セッティングを行い、制御し、高いレベルの創造性を発揮し、キュレーションを行い、管理の役割を担います。一方で、AIは、人にインスピレーションを与えたり、低レベルの細かい作業をしたり、大規模なデザインを行うという点において、人間の能力を強化するという役割を果たしていくことが期待されます。

参考文献

1. Wang, D., Weisz, J. D., Muller, M., et al. Human-AI collaboration in data science: Exploring data scientists’ perceptions of automated AI. Proceedings of the ACM on Human-Computer Interaction. 3(CSCW), 1-24. (2019).
2. Wang, D., Andres, J., Weisz, J., et al. AutoDS: Towards Human-Centered Automation of Data Science. In Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems CHI ’21: Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems. May 2021 Article No.: 79 Pages 1–12.
3. Weidele, D. K. I., Weisz, J. D., Oduor, E., et al. (2020, March). AutoAIViz: opening the blackbox of automated artificial intelligence with conditional parallel coordinates. IUI ’20: Proceedings of the 25th International Conference on Intelligent User Interfaces March 2020 Pages 308–312.
4. Alkan, Ö., Mattetti, M., Barros, S., Daly, E. Exploiting Heterogeneous Data Sources through User Feedback for a Business Partner Recommender System. Proceedings of the Joint Proceedings of the ACM IUI 2021 Workshops co-located with the 26th ACM Conference on Intelligent User Interfaces (ACM IUI 2021)
5. Alkan, Ö., Daly, E., Vejsbjerg, I. Opportunity Team Builder for Sales Teams. 23rd International Conference on Intelligent User Interfaces. 2018.
6. P. Cavalin, V. H. A. Ribeiro, M. Vasconcelos, C. Pinhanez, J. Nogima and H. Ferreira, Towards a Method to Classify Language Style for Enhancing Conversational Systems. 2021 International Joint Conference on Neural Networks (IJCNN), 2021, pp. 1-8.
7. From Disjoint Sets to Parallel Data to Train Seq2Seq Models for Sentiment Transfer (Cavalin et al., Findings 2020)

本記事は「What is human-centered AI?」を抄訳し、日本向けに加筆したものです。

監訳：立花 隆輝
東京基礎研究所 AI担当シニア・マネージャー、シニア・テクニカル・スタッフ・メンバー入所以来、マルチメディア信号処理や音声言語処理などに従事。現在は自然言語処理、画像処理、エッジやロボット関連機械学習応用などを含めたAI関連プロジェクトのマネージメントを行う。