信頼できる AI の基盤: ガバナンスの効いたデータと AI、AI 倫理、およびオープンで多様なエコシステム

記事をシェアする:

2021年5月27日 By Kelly Churchill (英語)

世界中の企業が、AI への信頼構築が AI テクノロジーの幅広い導入への鍵となることに気付いています。企業は、AI への信頼と AI アルゴリズムを通じて行われた意思決定を説明できる能力が、ブランドの観点からみたビジネスの成功に欠かせないことを理解しています。世界のAI 導入状況 2021年によれば、世界の IT プロフェッショナルの 86% は、消費者が、透明性と倫理的な枠組みをもってデータと AI モデルを構築、管理、および使用している企業のサービスを選択する可能性が高いことに同意しています。

突き詰めれば、お客様は、ガバナンスの効いたデータと AI ツールやプロセス、AI 倫理、およびオープンで多様なエコシステムの基盤に根ざした信頼性、そして信頼できる AI ソリューションから得られた結果に対し、より大きな自信をもっているといえます。

ガバナンスの効いたデータと AI

ガバナンスの効いたデータと AI とは、データと AI ソリューションの信頼性を監視して維持するテクノロジー、ツール、およびプロセスを指します。企業は、AI が意図したとおりに動作し、規制に準拠していることを確かめるために、AI を誘導して監視できなければなりません。IBM のガバナンスの効いたデータと AI テクノロジーは、倫理的な AI の基本原則 (透明性、説明可能性、公平性、堅牢性、およびプライバシー) を適用したうえで構築されています。IBM が定義する「信頼性の高い AI」とは、これらの 5 つの領域に重点を置いたものをいいます。

透明性

透明性は信頼を強化します。透明性を高める最善の方法は、開示を行うことです。透明性は、AI ソリューションを倫理的なものにするための必須条件でもあります。透明性を提供することで、AI テクノロジーを容易に調査できるようになります。つまり、AI ソリューションで使用されているアルゴリズムが隠れていたり、より詳しく調べることができなかったりということがなくなります。

説明可能性

透明性によって使用される AI テクノロジーやアルゴリズムが見えるようになりますが、AI が「どのように」使用されるかについてのシンプルで明快な説明が必要です。人々には、AI がどのように結論に至ったのかを理解する権利があります。そのような結論によって、自らの雇用可能性、信用度、または潜在能力に関する意思決定に影響が及ぶ場合にはなおさらです。提供される説明は、わかりやすいものである必要があります。

公平性

AI ソリューションにおける公平性とは、人間のバイアスを削減して、個人や個人の集合を平等に扱うことをいいます。公平であるように設計された AI ソリューションは、このような状態を維持し続けなくてはなりません。バイアスがソリューションに紛れ込むのを防ぐためには、監視と保護が不可欠です。

堅牢性

AI がより一層人間のエクスペリエンスの一部となっていくにつれ、より一層攻撃を受けやすくもなります。AI ソリューションが信頼できると認められるためには、例外的な状態を効果的に処理し、セキュリティー・リスクを最小限に抑えるために十分な堅牢性を備えていなくてはなりません。AI は、攻撃に耐え、攻撃を受けている間にも完全性を維持できなくてはなりません。

プライバシー

AI が信頼されるようになるためには、生データだけでなく、そのデータから取得した洞察に対しても、常にプライバシーを担保しなければなりません。データはそれを生み出した人間に帰属します。AI は最高の完全性をもってプライバシーを担保しなくてはなりません。

AI 倫理

ガバナンスの効いたデータと AI ツールおよびプラクティスは、倫理原則の基盤にしっかりと根ざしていなくてはなりません。AI は人間、人間のインテリジェンス、および人間の行動を強化します。選ばれた少数の人間だけでなく、すべての人間が AI にアクセスできるべきです。AI によって得られたデータや洞察はそれを生み出した人間に帰属します。倫理的な AI はその権利を守ります。AI 倫理（英語）とはまた、企業がその AI データをどのように使用するかに透明性があり、説明可能であることも意味します。

オープンで多様なエコシステム

信頼できる AI ソリューションには、倫理とガバナンスの基盤の他にも必要なものがあります。オープンなエコシステムで強化されるダイバーシティー、インクルージョン、および責任共有の文化は、企業と社会の両方に真の価値を提供しながら AI を構築・管理するうえで必須になります。これには、AI ソリューションを構築するチームが、異なる背景をもつ、そのようなソリューションが使用される社会における性別、人種、および文化的多様性を色濃く反映する人々で構成されるようにするための、文化的変革が必要になるかもしれません。

IBM は、ツール、専門知識、教育、およびガイダンスを提供することにより、企業が AI と AI から得られる結果への信頼を構築するのを支援します。

信頼できる AI への人間中心のアプローチでビジネス・トランスフォーメーションを促進する(英語)

原文：Foundations of trustworthy AI: governed data and AI, AI ethics and an open diverse ecosystem (https://www.ibm.com/blogs/watson/2021/05/trustworthy-ai-foundations/(英語))