AI

AI倫理のためのガイドを発表

2018年9月21日

カテゴリー AI

記事をシェアする:

この記事は米国時間2018年9月3日に掲載したブログ（英語）の抄訳です。

投稿者

Artificial Intelligence Design担当IBM Distinguished Designer アダム・カトラー（Adam Cutler）
Artificial Intelligence Design担当IBM Designer ミリーナ・プリビック（Milena Pribic）
Artificial Intelligence Design担当IBM Designer ローレンス・ハンフリー（Lawrence Humphrey）

デザイナーと開発者のための実践的なガイド

人工知能（AI）は、直接的であれ間接的であれ、すでに私たちの生活にかかわっています。目に見える形で活用されていることもあれば、フィルター、アプリ、API、その他のプロセスの裏で目に見えない形で活用されていることもあります。AIは大きな変化を期待させるものではありますが、その発達によって懸念も生まれています。人間が把握できないアルゴリズムが意思決定のベースとなっている場合、AIの影響の広がりを測定するのが難しいからです。

AIから生まれる新しいテクノロジーや新たな効果を生かして、新しい設計手法や開発手法が次々と生まれています。これは、「リレーションシップ・デザイン」という時代の幕開けともいえます。これからのソフトウェアの設計と開発は、インタラクションのみに重点を置いているだけでは不十分でしょう。AIを活用して人間の知能を適切に拡張するには、機械と人間との関係を進化させる必要があります。

AIとの関係を育み、保護することが、これからの新しい概念になります。この種の設計には、想像を超える量の信頼関係が必要とされます。一般的なものを挙げれば、開発者とユーザーとの間の信頼、ユーザーと機械との間の信頼、社会とAIとの間の信頼などです。

こうしたデザインの時代における新しい課題に対処し、それを喜んで受け入れるために、私たちは、AIに取り組む設計者や開発者向けのフィールド・ガイドを作成するべく協力してきました。設計プロセスの各段階において、チーム間の足並みをそろえられるようにすることが、このガイドの目的です。

「Everyday Ethics for Artificial Intelligence」は、個人でもチームでもすぐに実践に移せるAI倫理のための枠組みです。IBMのAI倫理のグローバル・リーダーであるフランチェスカ・ロッシ（Francesca Rossi）と協力し、さまざまな情報や観点をもとに、設計者や開発者に向け、理解しやすく実用的なガイドを準備しました。

このガイドでは、次の5つを重点分野として取り上げています。
いずれもIBMの信頼と透明性に関する原則（Principles for Trust and Transparency）に一致するものです。

Accountability(説明責任)：AIの設計者と開発者は、AIの設計、開発、意思決定プロセス、結果に対して熟慮する責任を負います。
Value Alignment (価値観の一致)：AIの設計は、対象とするユーザー・グループが有する規範や価値観を考慮して行うべきです。
Explainability(説明可能性)：AIの決定プロセスが人間にも容易に認知、感知、理解ができるように、AIを設計すべきです。
User Data Rights(ユーザー・データの権利)：ユーザー・データを保護し、アクセスや利用に関するユーザーの権利を保持できるように、AIを設計すべきです。
Fairness(公平性)：偏見を最小限に抑え、誰もが参加できる社会を後押しするように、AIを設計すべきです。

それぞれの重点分野には、推奨される措置、必要な検討事項、話し合いのきっかけとなる質問が含まれています。

「Everyday Ethics for Artificial Intelligence」は、複数の専門分野にまたがる現在進行中の取り組みです。私たちが望むのは、AI倫理に関心のある一般の人々による貢献によって構築されること、ならびに、それが拡大していくことです。倫理に関するコミュニケーションと意思決定の枠組みを取り入れれば、適切な目的からすぐれた成果が生まれるでしょう。

倫理的な意思決定とは、単に技術的な問題解決の別の形態ではありません。AIは生活、人間関係、そして私たち自身を劇的に豊かにする可能性を秘めています。ただし、透明性と計画性なしでは、それを実現できないのです。

「Everyday Ethics」ガイドの完成版を出す前に、まずは最初のドラフトをリリースします。
こうすることにより、誰もが読んだり利用することが可能となり、コメントしたり、批評したり、将来の改訂に貢献できるようになります。ぜひ、ガイドを使ったり、試してみてedethics@us.ibm.com へフィードバックを送ってください。

「Everyday Ethics for Artificial Intelligence」ダウンロード（英語）