月別アーカイブ 12月 2018

AIのブラックボックス問題の解決に期待が高まる XAI(説明可能なAI)とは

凄まじい勢いで進歩を遂げるAIですが、昨今さまざまな課題が浮き彫りになっています。
そのひとつが、AIの主流となっているディープラーニング等の技術で、AIにより結果だけが分かり、どんな根拠で判断に至ったか論理的に説明できない、いわゆるAIの「ブラックボックス問題」です。この問題に対し、近年「XAI(Explainable AI/説明可能なAI)」という技術が注目を浴びています。本コラムでは、ブラックボックス問題の概要とXAI技術の取り組み、同問題に対する各国の動きについてご紹介します。

 

なぜ勝ったか誰も分からない
囲碁AI「AlphaGo」

 AIの急速な進化を象徴する出来事として、2016年3月に囲碁AI「AlphaGo」が世界トップ棋士であるイ・セドルを破ったことが挙げられます。そのニュースは人々に大きな衝撃を与えました。AlphaGoは過去の棋譜を元にした「教師あり学習」と、囲碁AI同士を対局させて鍛える「強化学習」のみ行い、なんと囲碁のルールさえ組み込まれていなかったようです。しかし、強化学習では数千万局もの自己対局をこなし、プロ棋士が生涯掛かっても見つけられないような未知の定石や打ち筋を生み出しました。もはや囲碁のようなボードゲームの領域では「シンギュラリティ(技術的特異点)」に達した、と言っても過言ではないでしょう。
 そんなAlphaGoですが、この出来事により大きな問題が明るみに出ました。それが「ブラックボックス問題」です。
 AI(ディープラーニング)の技術的詳細は割愛しますが、一般的なプログラムであれば、プログラムのコードを追いかければ要因が分かります。しかし、AI(ディープラーニング)では、人間が分かる論理コードはなく、アルゴリズムはブラックボックスとなっています。ですので、この対局での複雑怪奇なAlphaGoの打ち筋に、解説者であるプロ棋士はもとより、AlphaGoを開発したメンバーさえも、勝因が分からない有様でした。

 

信頼がより求められる分野へのAI活用に課題

 このような問題により、AIの社会的活用に少なからず歯止めが掛かることになりました。説明ができないということは、たとえば次のような分野ではAIに全てを任せると大きな問題になり得ます。

    1. 医療診断
    2. AIによる画像診断で病気の早期発見や見落としの改善などが期待されますが、AIの誤診・誤判断により適切な治療が行われず、患者の症状が悪化した場合、説明ができないと理解を得られるのは困難です。

    3. 人材採用
    4. アマゾンの人材採用AIが女性差別的傾向を持った判断をしたことで大きな話題となりましたが、AIに学習させるデータが不適切であった問題のみならず、AIによる採用基準が結局のところ不明であり、物議を醸す結果となりました。

 当社のお客様である製造業では、次のようなシーンでAIの活用に留意が必要です。

    1. 異常検知/予知保全
    2. センサーなどの時系列データから設備の異常の兆候をAIで感知することが可能ですが、just in timeの製造をしている場合、設備を止めるとその影響は甚大です。なぜその判断に至ったか分からないと、ユーザへの説明は勿論、防止に役立てられません。

    3. 品質検査
    4. 食品業界では特に顕著ですが、AIが誤った判断を行い、食中毒などが起きれば大問題となります。そのほかの一般的な製造物においても、不良品が混入することで、最悪事故を招き人命にかかわる場合もありますので、検査結果での合格判断は説明できるものでなければなりません。

 いずれの場合においても、その責任を問われたときに、より信頼できる説明が求められる分野といえるでしょう。一方、人間でも意思決定理由を説明できないことが多いという意見もあります。しかし、社会的に広く利用されるシステムや、人命がかかわることに使われるシステムにおいて説明責任が求められるのは当然です。一般的なビジネスにおいても、説明ができないものは責任が伴わないので導入が難しいのと同じであるといえます。
この問題をどう解決していくかがAIの更なる発展の大きな課題となっています。

 

XAI(説明可能なAI)に注目が集まる

 そこで、近年注目を集めているのがXAI(説明可能なAI)です。XAI は簡単にいえば、AIによる結果のみならず、その判断に至った過程・理由を提示するもので、先述の背景からさまざまな国や企業がこの分野の研究に積極的です。米国防総省・国防高等研究計画局(DARPA)では、XAIへの投資プログラムを発表しており、約80億円もの予算を投入して研究を進めていると言われています。
 国内では、富士通研究所が開発した「Deep Tensor/Knowledge Graph ※1」というものがあります。
※1 富士通 PRESS RELEASE (技術):AIの推定理由や根拠を説明する技術を開発

 独自の機械学習技術であるDeep Tensorと、ナレッジグラフと呼ばれる過去の文献や専門家のデータベースから構築したグラフ型の知識ベースを融合し、Deep Tensorの推定結果に対する理由や根拠を論理的に説明できるようです。特に専門的な知識・判断が求められる医療分野への活用が期待されています。このほか、NECでは異種混合学習という独自技術を用いて、AIによって算出された予測値について、予測根拠(なぜそのような予測になるのか)もユーザに提示することを可能としています。
 

AIの判断に企業が説明責任、国内外でAI活用のルール整備が加速

 上述のようなXAI技術への取り組みが進む一方、国内外でAIのブラックボックス問題に対するルール整備の動きが活発化しています。
 2018年5月に施行されたEU(欧州連合)の一般データ保護規則(GDPR)では、ユーザに「重大な影響」を及ぼす自動意思決定システムが下した決定について、ユーザ本人が「説明を受ける権利」、そしてその決定に「反対する権利」が確立されました。
 これは、個人情報を活用してAIなどが全て自動処理を行うサービスなど(ローン審査、人材採用 etc)が該当し、ユーザが何らかの重大な不利益を被った場合、どのように判断されたかその理由について説明を求めることができ、且つ、その決定について従わないで良いということになります。したがって、GDPR下では、法的にも意思決定結果をユーザに説明できるシステムであることが求められるのです。
 また、日本では内閣府の「人間中心のAI社会原則検討会議」が年内にまとめるAI活用の基本7原則の素案がマスコミ各社で報道されました。(2018年12月9日閲覧 日本経済新聞電子版:AIの判断、企業に説明責任 ルール作りへ政府7原則
 その中では、「AIを利用した企業に決定過程の説明責任」を求めることが大きな柱となっています。この7原則に基づき法整備が進められると考えられるため、国内においても、AIシステムを提供するベンダー、利用者ともに大きな影響が出ることは必至です。
 

 XAIはブラックボックス問題を解決・補完する手段になることが期待されていますが、この問題は実に根が深く、究極的にはAIを信じるか/信じないかといった宗教的な議論まで出てくるかもしれません。AIの社会的活用に向けた過渡期の現在、AIの活用領域を見極め、ヒトがカバーする、「AIとヒトが協働する」とは何か一度考えてみてはいかがでしょうか。
 

 
 月額2,000円(税抜)から始められるクラウド型EDIサービス『EXtelligence EDIFAS』で、EDIに取り組んでみませんか?使いやすいインターフェースと豊富な設定機能で、誰でも簡単に操作することができます。また、クラウド環境なので、申し込んだその瞬間からご利用いただけます。最大2カ月の無料期間もございますので、ぜひお試しください!

第5世代移動通信システム5Gが製造業に与える影響

耳にしたことがある方も多いのではないでしょうか?5Gは現在主流になっているLTEに代わる通信システムとして注目されていますが、具体的に何がどう変わるのか、そして、製造業にはどのような影響があるのか、見えにくい部分もあります。今回のコラムでは、5Gの概要と製造業への影響を紹介します。


5Gとは?

 5Gに関して概要を説明する前にまずは、総務省が作成した下記の3分程度のイメージ動画をご覧ください。

 上記の動画では、5Gを利用することで実現される近未来の様々なシーンが紹介されています。動画の各シーンに対応する形で、5Gの技術面について解説した動画もあります。

 これらの動画を見ていただければ、「なんとなくすごい技術なんだなあ」というのがご理解いただけるかと思います。この5Gを支えるキーワードは下記3つになります。

 超高速

 超高速というのが一つ目のキーワードです。これは、5GがLTEの後継であることを考えればイメージがつきやすいでしょう。ちなみに、LTEでダウンロードに5分かかる2時間の映画が、5Gであれば3秒でダウンロードすることができるそうです。

 

 超低遅延

 超低遅延というのが二つ目のキーワードです。これは、端末同士がデータやコマンドをやりとりする時間が非常に短縮されるということです。具体的には通信の遅延(タイムラグ)が1000分の1秒以下まで短縮されます。超低遅延によって、遠隔地にあるロボット等をリアルタイムに操作ができるようになりますので、遠隔地での工作機械等の操作や、遠隔治療の実現などが可能になります。また、自動運転においても信頼性の向上が期待されます。

 

 多数同時接続

 三つ目のキーワードは、多数同時接続です。これは、限られた面積内で多くのデバイスが同時に接続できるということです。具体的には、100万台/㎢の同時接続が可能であり、これは、現行の4Gの30~40倍にあたります。多数同時接続により、身の回りにあるあらゆるものを同時にネットワークに接続することが可能になりますので、多数のデバイスから同時に情報収集を行ったり、同時に制御を行ったりすることが可能になります。IoTやスマートファクトリーの実現の後押しとなるでしょう。

参考)総務省HP「5G利活用アイデアコンテスト」
より詳しい技術的な内容については下記のページをご覧ください。
「5G(第5世代移動通信システム)」NTTドコモホームページ

 

 5Gの実用時期はいつか?

 近未来を実現可能にする5Gですが、いつ頃から実用化されるのでしょうか。NTTドコモ、KDDI、ソフトバンクに加え、楽天の4社が2019年ごろから徐々にサービス化を進め、2020年のオリンピックに合わせて本格的なサービス展開がなされそうです(日経電子版「5G、19年に一部開始 携帯4社が全国展開計画」)。

 さて、ここまで5Gの概要について紹介してきましたが、製造業にはどのような影響があるでしょうか。いくつかの切り口から考察してみます。

 

電子部品の需要がさらに伸びる!

 なんといっても通信や制御に欠かせない「電子部品」の需要が非常に拡大することが推測されます。まず、既存の4G・LTEと5Gでは周波数も規格も異なるので、5Gが本格的に普及していくことになれば、通信を行うための部品が新規に開発されることになります。さらに、5Gの普及により、IoTデバイスや遠隔操作が可能なロボットへの需要が大きくなる可能性が高いことを踏まえれば、電子部品の需要は非常に大きくなるでしょう。
 需要が伸びるということは、調達が難しくなるということです。今後のさらなる調達競争の激化に備えて、前もって対策を行っておくことが重要となるでしょう。

電子部品の調達競争を「EDI」で勝ち抜く!


5Gの応用領域に関連する部品の需要が伸びる?

 総務省が作成した「5Gの利活用分野の考え方」にも書かれているように、5Gは幅広い領域で大きな変化をもたらしますが、最終製品という基準で考えるのであれば、車、産業機器、医療機器、ロボットに大別されるでしょう。今後、これらの製品では5Gの普及に伴い大きなイノベーションが起こり、大規模なリプレイスが発生することが想定されます。これらの製品のサプライチェーンに属する製造業では需要が伸びる可能性が高いので、変化に対応できれば企業が成長する好機となるでしょう。


製造業でのキラーアプリは「スマートファクトリー」となるか?

 総務省では様々な分野で5Gの実証検証に取り組んでいます。平成30年度に実施されている実証検証の中に、「ロボットやセンサーを活用したスマート工場」が含まれています。<総務省ホームページ「5G総合実証試験の実施概要(平成30年度)」>。詳細は公表されていませんが、工場内の大量データを「超高速」に処理し、「超低遅延」と「多数同時接続」を活かして、リアルタイムに複数の産業用ロボットを操作することを目指していると想定されます。ドイツから始まったインダストリー4.0の流れに遅れをとっている日本としては、スマートファクトリーの実現は喫緊の課題と言えるでしょう。

 インダストリー4.0や日本版インダストリー4.0である「コネクテッドインダストリーズ」に関しては下記の記事をご参照ください。

日本版インダストリー4.0『コネクテッドインダストリーズ』は中小企業が主役?

 実証検証の結果に関しては、総務省のホームページや、YouTubeのチャンネルで公開されるでしょうから、結果が楽しみです。

 新たな技術の普及には、その技術の代名詞となるような「キラーアプリ」が不可欠です。製造業での5Gの普及に関しては、スマートファクトリーがキラーアプリとなるでしょう。


 5Gが普及すれば日本の製造業には大きなチャンスが訪れるでしょう。ただし、5Gの実現により同時に接続可能なデバイスの数が増えるということは、セキュリティリスクの増加も引き起こすでしょう。新しい技術がもたらす素晴らしい世界に期待を馳せるだけではなく、想定されるリスクもきちんと評価した上で、競争に勝ち抜くためのアクションを決定していくべきでしょう。