｢AIと共存｣する社会をどう実現する？ デロイト トーマツと考えるエシカル視点

デジタル化やAIによる自動化や予測といったテクロノジーは、社会課題の解決に革新的な貢献をもたらした。その活用は人々の生活を幸せにする一方で、新たな課題も浮上している。｢デジタル社会と倫理｣の問題だ。

AIと人間が協働していく時代に、企業やビジネスパーソンはどのような視点を持つべきか。AI開発の最前線にいるパロアルトインサイトCEOの石角友愛氏と、デロイト トーマツ コンサルティング（以下DTC）でビジネス エシックス サブリードとしてEthics（エシックス：職業倫理）カルチャーの推進を担当している滝沢明子氏に、デジタル社会に求められる倫理観を聞いた。

アメリカと日本、企業のAI活用の実態は？

── 世界的にAIの活用が進んでいます。日本での浸透度を教えてください。

石角：IPA（情報処理推進機構）の『DX白書2021』によると、アメリカ企業でのAI導入率は、実証実験（PoC）段階の企業も含めると約60％です。一方日本企業は、AI導入中が約20％、実証実験段階の企業は約8％と実態には大きな差があります。さらに、AIが業務フローに定着し、ビジネスインパクトのある作業効率化や新しいビジネスの創造といったデジタライゼーションのフェーズに入っている日本企業はまだ少数派です。

ただ、リテールや消費者向けビジネスではAIの活用事例が増えてきました。ある飲食チェーンではもともとAIで需要予測をしていましたが、コロナ禍で従来の予測モデルが使えなくなりました。そこで私たちに｢緊急事態対応型の需要予測AIモデルをつくってほしい｣と依頼をいただき実装しています。AIを活用しビジネスを進化させていく企業とそうでない企業の差が顕著になっていると感じます。

滝沢：私はDTCの金融部門で、主に保険会社の支援を担当しています。これまでは何かが起きた後に保障をすることが保険会社の役割でした。しかし時代の変化とともに、たとえば契約者が病気になる前の健康維持や事故の予防といった部分にまでサービスの対象範囲が広がりつつあります。

そのとき必要になってくるのが、データ連動や予測・予知のテクノロジーです。また、保険加入時の審査や支払査定でもAIの活用が検討され一部では既に実装されています。日本でもAIが身近なものになりつつあることは間違いありません。

── AI活用が進む中で、その活用範囲やデータ取得方法などについて、倫理的な問題も浮き彫りになっています。

石角：アメリカでは2018年のケンブリッジ・アナリティカ問題（※）を機にAIと倫理の問題が注目されるようになり、｢説明可能なAI（XAI=Explainable AI）｣をつくる動きが起きました。ここ1～2年はさらに踏み込んで、AIを開発する人、AIを使って意思決定する人たちに公平性や透明性の責任を問う｢責任あるAI（RAI=Responsible AI）｣が求められています。

滝沢：日本企業も倫理の観点には敏感です。AIの特徴は、過去の膨大なデータをもとに答えを導くこと。しかし、その過去のデータに社会的なバイアスが混じっている可能性もあります。

たとえば金融セクターでいうと、住宅ローンの審査時に、過去の差別や偏見によって社会的に不利な立場にいた方々のデータをバイアスを取り除かずに組み込んでしまうと、本来は支払い能力があるのに査定が通らないようなAI与信になってしまう。今の世界で見たときにジャスティス（正義）がある判断といえるのかは、日本のクライアントも強く意識しています。

※同名の政治コンサルティング会社が、Facebook上の個人プロフィールを取得し政治広告に利用していたとされる問題。個人情報の利用範囲や利用者からの同意、取得したデータの取扱い方などが論点となった。

｢できるかどうか｣ではなく｢それは社会の役に立つか？｣

── AI開発に倫理が問われる時代、企業が気をつけるべきことは何ですか。

石角：映画『ジュラシック・パーク』で、｢（科学者たちは）できるかどうかに夢中になりすぎて、すべきかどうかを考えることをやめたんだ｣といった趣旨のセリフがあります。大切なのは、｢技術的にできるから｣｢やると利益が最大化するから｣ではなく、｢社会にとって必要とされているか｣です。

私が経営するパロアルトインサイトでは、プロジェクトを進めるとき、以下の4つの点を重視しています。F（Feasibility=技術的な実現可能性）、O（Opportunity=ビジネスの発展性）、M（Measurability=検証性）、そして最後がE（Ethics：倫理）です。いまやAI開発の初期工程からEの視点は欠かせないものになっています。

滝沢：ビジネスが倫理と衝突することも起こりえます。しかし、DTCを含むデロイト トーマツ グループでは｢Ethics & Integrity（誠実性）｣のカルチャーを持ち、いついかなるときもビジネスよりもEthicsを優先させることを宣言しています。私たちのビジネスは、機密性の高い情報を取り扱う性質上、お客様や社会からの信頼がないと成り立ちません。たとえビジネス機会の損失につながっても、倫理的観点が最優先なのです。

── とはいえ、｢倫理的な行動｣の判断に難しいケースもあるのではないのでしょうか。

滝沢：もちろん簡単に判断がつかないときもあります。そのためデロイト トーマツ グループでは、日々の業務の中で判断に迷う場面を想定したケースブックを作成し、メンバーの判断や行動がEthicsやポリシーに即しているか確認できるツールとして提供しています。たとえば、クライアントからの不適切と思える委託先の指定があった場合に承諾すべきかといったケースや、母国語が日本語ではないメンバーに日本的なやり方に従ってもらうのはよいことかなど、具体的な架空の事例とその際に考えるべき観点をまとめています。

またDTCでは、これらの判断や行動の土台になるものとして、Integrityを持って業務を遂行するための行動規範｢Code of Conduct｣をグループ共通で定め、全メンバーにその遵守を求めています。

コンサルタントは、プロジェクト毎に異なるメンバーとチームを組んで仕事をするため、都度人間関係を築いていく必要があります。お互いを尊重して良いチームを作り上げることが、クライアントに提供するバリューにもつながるため、EthicsやIntegrityを非常に重要と捉えているのです。

石角：アメリカでは文化的背景や宗教的背景が異なる人が職場に集まっています。ゆえにEthicsも明文化することが重要で、デロイト トーマツ グループのように指針として明示しておくことは必須です。また、Ethicsについて小さなセクションで定期的に話をする場があるのも効果的ですね。問題が起きてからではなく、誰かが気づいたときに声をあげられる、問題提起できる場があれば、マインドセットが変わるきっかけになるのではないでしょうか。

滝沢：そう思います。DTCを含むデロイト トーマツ グループでは、Ethicsサーベイや座学の研修の他、｢Ethics Culture Change Discussion研修｣を年1回実施しています。Ethicsは時代とともに変わりゆくもので、以前は問題がなかった言動や判断がハラスメントになったり倫理上の問題になったりすることもあります。その変化も含め、Ethicsを常に自分事として考えるためのディスカッションを続けています。

AI時代に必要とされる、ビジネスをつなげる役割

── 石角さんは、｢AIビジネスデザイナーとしてカタリスト（触媒）に徹する｣とおっしゃっています。また、デロイト トーマツ グループは｢経済社会の変革を加速するカタリスト｣を掲げています。AI時代に求められるカタリストの役割とはどのようなものでしょうか。

石角：AIビジネスデザイナーは経営者とエンジニアをつなげることが仕事の一つですが、一方が話していたことを他方に伝えるだけではなく、｢言葉の裏にある真の意味は何なのか｣とメタな解釈をして伝える必要があります。

私はよく｢0と1には大きな違いがある｣と言うのですが、ビジネスデザイナーでもAIやプロダクト開発の現場に携わったことがある人と実体験がない人は、見える視野が違うんです。1に何かをかけると100にも1000にもなる可能性があるけれど、0の経験の人には何を掛けても0。1つでもいいから現場でハンズオンな経験を持つことはすごく大事だと思っています。

また、自分を主語にしてナラティブに語ることも大切です。｢私はこう思う｣という語り口でないと、人は動いてくれません。主体性を持って意思疎通し、みんなで合意しながらビジネスを進めていく。それが間をつなぐ人の価値ではないでしょうか。

滝沢：カタリストに求められるのは、深い専門性と他の専門家とのネットワーク、そして信念だと思っています。石角さんがおっしゃるように、｢こうあるべき｣というパッションを持って相手の文脈に落とし込んで伝えられるかどうかでカタリストの価値は決まります。そして最後は人間性、人間力の勝負。一人ひとりが倫理をベースに人として成熟していかなければいけない。それをDTCの企業価値向上につなげていきたいですね。

https://www.businessinsider.jp/post-250784