クライアント・エンジニアリング対談 #9（山口武彦×平山毅）｜ 金融規制が導いたAI倫理とRegTech

記事をシェアする:

幅広い技術・経験・バックグラウンドを持つスペシャリストたちが集結し、お客様と共に新しいサービスやビジネスを共創していく事業部門——それがIBM Client Engineering（CE: クライアント・エンジニアリング）です。本シリーズでは、CEメンバーが対談形式で、各自の専門分野に関するトピックを中心に語っていきます。

第9回目となる今回は、主に金融保険領域や新規事業企画のお客様との共創を進めているチームのリーダー平山 毅と、金融保険領域で豊富な経験をもつデータサイエンティスト山口 武彦が「金融規制が導いたAI倫理とRegTech」を中心に語ります。

＜もくじ＞

1. 業界ごとのデータサイエンスのステージ
2. 金融保険業のデータサイエンス
3. 製造業のデータサイエンス
4. 今後のデータサイエンスに求められるAI倫理とRegTech

---

 

1. 業界ごとのデータサイエンスのステージ

平山: CEでエンジニアリングマネージャーをしている平山です。チームメンバーとの対談を続けていまして、第3回で「エンジニアリング視点のデータサイエンス」、第4回で「市民データサイエンティスト」とデータサイエンス普及について対談しましたが、第9回となる今回は、データサイエンスの課題面にスポットをあて、多様なメンバーの中でも特にアカデミア、ビジネス両面で非常に経験豊富で金融保険領域の専門性をもつデータサイエンティストである山口さんと、金融保険領域における規制とAI倫理について対話していきたいと思っています。

山口さんは、金融保険チームの発足時からのメンバーでもあり、一緒にチームを立ち上げ、プロジェクトやチーム構成などでもいろいろな会話や経験を共にしてきました。今日はその内容にも触れつつ、業界の動向や未来洞察などの深い対談ができると思っており、とても楽しみにしています。

それでは山口さん、自己紹介をお願いしたいのですが、まずはそのとても多彩な経歴からお話しいただけますか?

 

山口: 今日はよろしくお願いします。職歴を話すと長くなりますが…それでは、現在から振り返っていく形で少しお伝えさせていただきますね。

IBM入社は2021年7月でして、その直前の1年とちょっとはAIスタートアップに勤務し、主に製造業の経営層向けに組織づくりの支援を行ったり、パートナー企業との連携調整をしたり、PoC（Proof of Concept: 概念実証や検証行程のこと）の作成やデリバリーなどをしていました。

その前はきっかり3年間、大手総合電機会社でファクトリーオートメーションに取り組んでいました。「PLC（プログラマブル・ロジック・コントローラ）」と呼ばれる制御装置を中心に、データ周りの分析やアフターマーケット・サービスのコンサルテーションを、社内外に向けて行っていました。その活動が軌道に乗り、名古屋に本部を移してお客様向けの事業として本格スタートしたのを見届けて離職しました。子どもが小さくて、もっと一緒に過ごす時間が欲しかったんです。

…まだまだ続きますが…いくらなんでも話が長過ぎですかね?

 

平山: いや、そんなことないですよ。山口さんの現在の活動に非常に強くつながっている部分だと思うので続けてください。

 

山口: 分かりました。総合電機会社の前は外資総合コンサルティング会社のデータサイエンティストとして、新規ヘルスケア事業の立ち上げや不動産テックなど、幅広い分野を手掛けていました。

その前はフリーランサーとして、大手食品製造業のお客様をご支援させていただいたり、ECサイトのデータマイニング・エンジアをやっていた時期もあります。その前もいろいろあるのですが、その間、会社員をやりながら、あるいは途中でキャリアを中断しながら、ロンドンやチューリッヒの大学や大学院に通い、国際ビジネス、経済学、金融保険数理の修士などを取りました。

さらに遡ると、海外と貿易投資をしている業界（商社、メーカー、銀行、損保など）のお客様向けに、中近東やアフリカなどでカントリーリスク調査研究を4年半ほどやっていました。その期間でほとんどすべての中東の国に行ったんじゃないかと思います。ちなみに、大学は理科系で入学しましたが、卒業時の専攻は文化人類学でした。

 

平山: アカデミア、金融保険、製造、コンサルティング、独立、ベンチャーまで経験される幅広い経歴で、さまざまな経験が山口さんの現在のデータサイエンスとしての仕事に活きているんじゃないでしょうか。

そんな山口さんには、業種や分野によってデータサイエンスの違いがどのように見えていますか? 直接的にデータサイエンス活きやすい分野と、工夫が必要な分野とがあると思うのですが。

 

山口: そうですね。ここ10年ほどでどんどん変化してきてはいますが、基本的には金融、特に市場分野は、データサイエンスがやりやすい分野ではあるものの、リテール分野では分析や施策設計において、個人情報の取り扱いに手間や工夫が必要になってくるところがあると思います。

一方、製造業は、製造現場はまさに絶えざる実験による改善が継続的に行われていく領域で、データサイエンスはそれこそ昔から普通に行われています。最近はそこに機械学習や深層学習の新しい分析技術や、IoTやクラウドなどの新しい情報技術も加わり一層活用されるようになってきたところだと思います。

 

平山: そうですよね。金融機関というのは、もともとデータの塊でできているようなところがありますから親和性が高いのも頷けます。ただ、一方でその威力が強力で、負の側面もあったと思います。いわゆる金融工学、保険数理、が流行った時代に、山口さんも私もその分野に携わっていたこともあり、当時の状況をお互い振り返りつつ、金融業と製造業の違い、最後に最新動向やその課題解決に触れるような形で対談を進めていければと思っています。本日は、よろしくお願いします。

 

2. 金融保険業のデータサイエンス

山口: 金融は資産のリスクを変換する機能を提供しているわけですが、金融業界には昔から「クオンツ」と呼ばれる高度な数学や統計学の手法を用いる専門家たちがいました。

1990年代後半から2000年代後半にかけて、金融商品の複雑化の進行と並行して、資産価格のプライシングやリスク管理手法に対する非常に高度な数学の産業適用が隆盛しました。

資産価格は高度な数学によって定式化可能で、そのパラメータを時点時点で「すべての情報が合理的に集約されている」と想定される市場データによってキャリブレート（較正）することにより、適正なプライシングやリスク評価ができる、という考えがありました。

しかし、加熱していった市場が限界を迎え熱狂から覚めた時、制御できていると思っていたリスクに突如皆が気づき始めました。そして小さな変調は次第に、サブプライムローン問題、リーマンショック、そして世界的な金融危機へと、雪崩を打ったように激烈な信用収縮へと連なっていった…。こうした出来事が起きたのが15年くらい前です。

私は金融の世界を離れて10年くらい経つので、現在のクオンツなどの最新情報はフォローできていないところもありますが、ただあの時期に、金融とりわけ投資銀行に対する信用が大きく下落したのは間違いありません。

あそこが大きな1つの「変極点」で、金融保険業界においても、より透明性を高めてデータ・ドリブンに価値を出していくことが求められるようになりました。

 

平山: 世界金融危機を機に、規制が強化され、大きく変わりました。ここ10年くらいで、従来の「クオンツ」から「データサイエンティスト」が増えだし、金融業界におけるデータサイエンスの価値を上げたと私は思っています。

それまでの「数式ありき」のクオンツから、より「問題解決ありき」のアプローチをとるデータサイエンティストたちが増えていきました。金融工学の一部の人たちだけが独占されていた技術が広がり、市民投資家と彼らが持っている情報量に大きな差がなくなったことの意味は大きいですね。

そしてまた同時期に、クラウド・コンピューティングやネットワークの進化により、学習用データ取得が容易になり、データサイエンス的なアプローチが一部の専門家だけではなく、より多くの市民の手に渡り、デイトレーダーや個人投資家が増えていったことも関係していますよね。

 

——山口さんはこうしたここ十数年の金融業界の転換をどのように捉えているんですか? 「マネーゲームが社会悪の根源だ」「格差拡大社会を招いたのは行き過ぎた資本経済である」と警鐘を鳴らす声は止むことがありません。

 

山口: そうですね、そうした方向性への兆しは、金融危機が起きる前からありました。比較的シンプルな金融商品を取引するが、時系列データのパターン認識や自動化された最適な注文執行など、データやコンピュータやネットワークの処理能力でレバレッジをかけた、高頻度取引（HFT）やアルゴリズム取引と言われる手法が拡大しつつありました。今ではかなり一般化していると思います。

一方で、機関投資家によるこうした大規模な高頻度取引は、フラッシュクラッシュ（相場急落）を引き起こす一因ともなっています。

 

現状をどう捉えているか…。私も、オートメーション化された金融機関による大量の取引が、ボラティリティ（価格の変動性）を拡大してしまっている点は良くないと思っています。金融マーケットが社会を不安定にさせていることは間違いなく悪いこと。ただ、資産やリスク変換というのは金融の社会的機能の本質であり欠かせないものであること、というのも真実だと思います。

金融技術やITに限らず、人間によるテクノロジーのイノベーションは、発展の途上で社会的に行き過ぎてしまう傾向がどうしてもあるものなので、「通過点なのかな」とも捉えています。今後、規制当局やテクノロジーの発達、それから人間自身の発達により「手懐けられていく」のではないでしょうか。。

 

平山: たしかに、特定の金融機関が金融テクノロジーを駆使して構成してしまう高頻度取引という課題は残っていますが、世界金融危機以降、規制も強化され、分析用データが一般投資家にも容易に取得できるようになったため、情報に対する不均衡は解消される方向になっており、全体としては健全な方に向かっているのではないかと私も思います。

 

山口: 金融業界やそこに携わる人たちの中で「金融はより高い倫理観を伴うものでなければならない」という意識が強くなりました。とても良いことです。

私が製造業だけではなく金融保険業界も好きなのは、最終的な受益者の笑顔が頭に浮かべやすいからです。人の幸福のためにビジネスをしていると感じられるのがやっぱりいいですよね。

 

平山: そうですね。CEでの活動の話も例にすると、多くの金融保険業のデータサイエンス案件を一緒に進めましたが、山口さんが証明するデータサイエンスのアウトプットや効果について、お客様も人間なので、定量的かつ客観的に判断できないケースも少なからずありました。

主観だけではなく、客観で評価するのが倫理の一歩です。最近は、AIの回答に対する評価方法が議論にもなりますし、そのような相談が多いですね。

 

3. 製造業のデータサイエンス

平山: 製造業も好きということですが、山口さんがデータサイエンティストとして製造業に惹かれるのはどういった部分ですか?

 

山口: 製造現場でヘルメットをかぶり作業着を着て、お客様と一緒にたくさんやってきたので、好きなところはいろいろありますね。

でも一番のポイントは、製造現場には「すぐに実験できる環境」が揃っているという点です。ほとんどの現場ですでになんらかのデータは揃っています。そして、ある程度の「お財布」と決定権を持つ現場が多いです。これは「試してみる」というとても重要なことがやりやすいということを意味し、データサイエンスにとても向いています。

 

平山: なるほど。それでは製造現場において、分析アプローチなどで工夫していることはどんなことでしょうか?

 

山口: データサイエンスの技術を活かすには、当然ですがデータが重要です。

たとえば、オートメーション化を進めるための画像AIモデルを作成するにも、どういうカメラを使うか照明はどうするか。設置位置や角度はどうするか。これら1つ1つがセンシングに大きな影響を与えます。センシングの手法が大切です。

そしてセンシングに不都合は付きもので、データ欠損が起きてしまうことも珍しくありません。そこでどんなAI的な処理を噛ませれば欠損を補完できるか。また、異常値や外れ値を見極めてどう信用十分なモデルにするかなどのAIモデル作成知識も欠かせません。

さらに、どのデータをアップロードしてクラウド側で処理し、どのデータをエッジコンピューティングでデータ取得側に近いところで中間処理するのかなども、莫大なデータ量と通信速度の兼ね合いなどから考えていく必要があります。

 

平山: なるほど、ITとOTをしっかりとつなぐ上で、エンジニアリング経験が豊富で、理論と現場の両方を知っている山口さんならではの経験に基づいた話しです。

製造業に関しては、昔から品質管理分野などでデータサイエンスが活用されてきたという長い歴史があり、着実に進展してきたことで実験的思考が根付いているという特徴があります。そのあたりが金融保険業との違いでもありますね。

 

4. 今後のデータサイエンスに求められるAI倫理とRegTech

平山: いわゆる「ビッグデータ」と呼ばれる多様なデータが社会のあらゆるところに出回るようになり、これまで「データ不足で明らかにすることができなかった部分」に、「データサイエンスという光」を当てることができるようになりました。また、複合領域のデータから問題解決に向かえるようにもなり、データサイエンスが社会に寄与できるところは増え続けています。

前半にも少し話が出ましたが、「人の幸せのため」というのはビジネスの原理原則です。ただ、AI活用においてはそれが後回しにされてしまいそうな場面もあるのが現実かと思います。山口さんと対談していると、AIだけではなく仕事も含めた倫理の話に行き着きますし、山口さんのお人柄からも倫理性を感じることが多いのですが、昔からそうだったのでしょうか?

 

山口: 「データサイエンティストが21世紀で最もセクシーな職業である」という言葉が世に広まってからもう10年以上経ちましたよね。私もその言葉でデータサイエンスに本腰を入れていったわけですが、学んだばかりの頃は、自分が手にした武器を使ってどこまでできるのか、それを試したくて仕方がありませんでした。やはり手にすると、使いたくなるものなんですよね…。

そんな中で、私も歳を重ねて子どもを持ったりしながら、今の考えとなってきました。周りの人たちを幸せにしていくことが役目だと感じられるように、変化してきました。人として成熟してきたのかなと思います。こんなことを言うと家族や周りの人からその割には…と怒られそうですが（笑）。

 

平山: 素晴らしいですね。そしてそういう倫理的なところをしっかり考えてビジネスをするのが私たちIBMの特長であり、「儲かる」だけを追うようなことをしないところが他のAI企業との違いなんじゃないかとも思います。例えば、IBMがAIによる顔認証事業を取り止めたのは、ビジネス的なニーズは大きかったものの、倫理に触れるというのが理由です。

一方で、そうした考えの基に事業活動を行っていることがきちんとご理解いただけていないのではないかと思うところもあり、そこは残念でもあります。特に、説明責任や規制が強化されている保険金融業界のお客様にはそうした活動を知っていただきたいですよね。私たちがもっとちゃんとアピールし、体感して頂かなくちゃいけない。それも重要な私たちの役割ですね。

 

山口: その通りですね。しっかりとした倫理原則を基盤とした「信頼できるAI（Trustworthy AI）」にIBMは正面から対峙しています。プライバシーとセキュリティーはもちろん、AIの学習データに差別的な発言などが紛れ込んでしまうことないよう、品質管理の取り組みなど「いかにガバナンスしていくか?」がとても重要です。

提供する製品も、IBM Cloud Pak for Data(CP4D)のような、エンタープライズ・レベルのデータガバナンスを重視したサービス、あるいは機能が揃いつつあります。

 

平山 : IBMのAI倫理の取り組みについては、専用のサイトを設けて、具体的な実現方法も示しています。その中でもIBM Watson OpenScaleは、モデルのリスクを管理するだけでなく、AIの公正性や説明可能性も提供している中心的な機能になります。

CEのAI活用の金融保険のお客様向けプロジェクトでも、従業員の代理でAI処理する場合、便利になる分、その根拠や説明性が必要になるケースは多く、１つの解決策になっています。

また、金融保険領域で求められているAI倫理は、金融規制に関係していることが多いのですが、これは元々は監査が由来です。会計システムや金融データベースに監査が義務付けされているのと同様に、AIにも監査が求められています。

第5回「Fintechとデザインシステム」ではFinTechに触れましたが、○○Techの文脈ではこの領域はRegTechと呼ばれており、IBMは、金融のガバナンス、リスク、コンプライアンス(GRC)を包含し対応したOpenPages、金融不正を検知するSafer Payments、といったソリューション群も、CP4Dからは提供しています。

データサイエンスやAIは、コモディティ化が進み身近に試せる状況になっていますが、説明性が求められる重要な業務に適用させるとなると、こういったガバナンスが必要となります。そうしたニーズの高まりから、CEでは、監査法人でもあるコンサルティングファームとも共創を進めています。

進んでいる金融業界での規制が、AI倫理の必要性を導いている気もしますね。

 

——Chat GPT登場以降、AIに期待する人と同じくらい不安を感じる人が増えている印象があります。AIへのスタンスがこれほどくっきり分かれてしまっていることをどう捉えていますか?

 

平山: どんなにひどい嘘をつかれても、AIを逮捕することはできません。「責任を問えない」状態のままでAIが世に出ていくのは危険ですよね。

山口さんとは一緒に、先日『IBM AI Foundation Modelsへの取り組み』というコミュニティ型のオンラインセッションでも触れたところです。我われの前の説明がChatGPTで、話題をもっていかれた部分もありましたが、山口さんどうでしょう。

 

山口: ガバナンスは面倒ですが、これ以上なく重要な要素です。チャットGPTは「大規模言語モデル」、その中でもGPT（Generative Pre-trained Transformers）と呼ばれるものがベースとなっており、どんな問いかけにも「それなり」に答えてくれるので、使いやすく感じるのは分かるし、それが希望を持たせるのも不安を持たせるのも理解できます。

OpenAIなどにより、昨年のDALL-E2頃から矢継ぎ早に出てきた生成系AIができることには目をみはるものがあります。生成結果が従来のAIとは異なり、部分的にはですが、人間の創造力に達しているように見えたり、あるいはそれを凌駕しているようにさえ見えるものもあります。

チャットボットであるChatGPTについて言えば、AI利用のインターフェースが自然言語であるため、まさに誰でも使うことができ、現在、そのユースケース開発が世界的に猛スピードで進んでいる状況かと思います。

ただ、ChatGPTは現状、「平気で嘘をつく」といったハルシネーション（「AIの幻覚」とも）という問題があり、エンタープライズ向けユースとしては大きな課題となっています。この問題は本質的に根が深そうで、アプリケーションの中でガードレール的な機能を付加することで、表面的にはある程度対応可能かもしれませんが、現実世界の複雑さの中で振る舞いを制御できるようになるにはまだまだ時間がかかると思われます。

IBMとしては、信頼できるAIに真摯に取り組んできており、AIの倫理性、説明可能性、監査可能性を重視し、ビジネスにおけるエンタープライズAIの価値を重視した研究投資、製品展開をしています。

 

平山: やはり包括的に捉えて「人を不幸にするAI」は良くないですよね。今までできなかったことをできるようにするのが技術の役割だけれど、それは幸福に向かう支援でなければなりません。ガバナンスは面倒な面もいろいろとありますが、IBMのRegTechソリューションはその実現を大きく支援できます。

CEでのAIプロジェクトでは、よくそういった議論になり、アイディア出しや課題解決から実証検証まで一貫して支援しているので、もう一歩踏み込んだ本格的なAI倫理を一緒に評価検証したい方には、お声かけを頂きたいですね。

今日は山口さんの人生経験の一端にも触れることができた、とても貴重な時間でした。ありがとうございました。

 

山口: とんでもありません。今日は私にとってもたくさんの気づきがありました。こちらこそありがとうございました。

 

問い合わせ情報

 

この記事を読んだあなたへのおすすめ

Automotive 2030：2030年 自動車業界の将来展望

Automotive 2030：2030年 自動車業界の将来展望

Automotive 2030：2030年 自動車業界の将来展望