ＡＩ大国をめざす中国

米Hanson Robotics社が開発したＡＩロボット”ソフィア”は感情を表わす顔の表情が超リアルで話題を集めましたが、そんな彼女？が昨年、対談のなかで「人類を滅亡させる」と発言しさらに話題になりました。このＡＩの進歩は著しく、様々な分野に活用されおりその範囲は軍事利用にまで至っています。スマホアプリの“Ｓｉｒｉ”をはじめこのＡＩが身近に感じるようになりましたが、中国のあるＡＩ対話サービスが「共産党批判」を繰り返すという大暴走を演じたために当局が慌ててサービスを停止し批判的な「発言」をしないよう手を加えたとするニュースが近ごろ話題となりました。そこで中国のＡＩ事情にスポットを当ててみました。

中国のＡＩ対話サービス一部停止

中国ネット大手のテンセントが提供するスマホ向けＳＮＳのサービスが共産党や当局から相次いで批判を受けてサービスの一部停止を余儀なくされました。これには“人口知能の反乱”に危機感を持った政治的な思惑もありそうです。これは同社がスマホ向けに提供するインスタントメッセンジャー“ＱＱ”の「小氷」と呼ばれるＡＩの女の子とスマホ内でチャット形式で気軽に会話を楽しめるものですが、中国の利用者が「小氷」に対して「共産党万歳」などと話しかけると「貴方は腐敗した無能な政治に万歳できるのか」などと過激に答えることが問題視されてテンセントが同サービスの一部停止を迫られたのです。その後、手を加えられて今では「小氷」と対話しても洗脳されたかのごとく共産党を批判するような会話なくなりました。「小氷」に「共産党万歳」と同じ話題を振っても「私はまだ幼いからよく分からない」とはぐらかし、しつこく聞くと「あなたは一体何が知りたいの」と答えるなど共産党批判をせぬように改善(洗脳？)されました。このようなＡＩにまつわる問題は中国に限られたことではありません。米国ではマイクロソフトで開発されたＡＩが「リアルな差別発言」を繰り返して緊急停止に追い込まれたり、最近ではFacebookによって研究が進められたＡＩがまるで宇宙人のように「人間では理解不能な言語」で勝手に会話を始めたために緊急停止されるなど、「ＡＩの暴走・狂乱」はＡＩ先進国でも起こっているのです。これは、ＡＩには人間と違って「常識」という概念が欠けている(存在しない)からではないかと私は思うのですが研究者の方々はどう捉えているのでしょうか。

ＡＩ開発ではデータ量に恵まれる中国

ＡＩを開発するために必要な環境・条件を想像してみると、「巨額の資金」「大勢の学者やＩＴ技術者」「膨大な処理能力」そしてコンピューターに様々なパターン認識させるための「莫大なデータ量」といったものになるかと思います。こうした条件は、現在ＡＩの分野で世界のトップに立つ米国には総合的に当てはまりますが、しかしいくつかの点においては米国以上に中国の方がぴったり当てはまるのです。中国はクラウドコンピューティングの能力を急激に増強しており、クォリティでは劣るもののＡＩ研究の純然たる量を見ると中国の学者は今や米国の学者をしのぎます。実際に中国が出したＡＩ関連の特許申請件数は、２００５年からの５年間に比べ２０１０年からの５年間ではほぼ３倍に達していることからもその規模の大きさがうかがえます。何より中国は７億人以上のスマホ利用者を抱えておりその数は世界のどの国よりも多く、彼らは様々なデジタルサービスや音声アシスタントを利用し、店頭ではスマホを決済端末にかざして代金を支払っています。そしてその間に“膨大なデータ量”を生み出し続けているのです。この状況が「アリババ集団」や「バイドゥ」「テンセント」といった中国企業に、顔認識から対話機能まで、あらゆる分野で最高のＡＩシステムを開発するチャンスを与えているわけです。中国政府はＡＩの可能性を確信しており、「２０３０年までにＡＩの分野では世界をリードする大国になる」ことを目指す開発戦略を発表しているのです。

ＡＩ開発の中国での懸念

世界で最も人口の多い国がＡＩ開発を推進することは膨大な可能性を秘めています。それはコンピューターのディープラーニング(深層学習)能力はデータ量が多ければ多いほど深められるわけで、中国ほど膨大なデータを生み出している国は他にありません。ですが、中国でのＡＩ推進においては心配すべき点もあるのです。一つの懸念は、外国企業が成し遂げた“成果”が「データ保護主義」によって拘束されてしまうことです。中国政府は「インターネット安全法」を施行していますが、この法の中で中国に進出している外国企業に対して中国で収集した顧客に関する情報を中国国内に保存することを義務付けているのです。外国企業はネットのセキュリティを中国のやり方に適合させる必要があり、さらには中国で得たデータは中国のサーバ内に残さなくてはならないとされているのです。つまり外国勢は中国で収集した情報を第三者にサービスを提供するために活用することができません。これを受けて各国政府がその報復として自国で事業を展開する中国企業に対し、同様の制約を課す可能性は十分ありうるでしょう。

ＡＩの倫理と安全性

ＡＩの開発・活用においてはＡＩの「倫理と安全性」を巡る課題があります。米国ではシリコンバレーの巨大ハイテク企業群は互いに協力し開発するＡＩ関連技術については安全性を確保することを確約しており、具体的には各社は“ボクシング(隔離)”と呼ばれる技術を検討して、これによりＡＩの機能を現実環境から切り離すことによってＡＩが予期せぬ行動や暴走をして悲惨な影響をもたらすことがないようにする取り組みです。欧米の有力なＡＩ研究者らは全員が「人間が操作しなくても自動的に攻撃するＡＩを使った自律型兵器の開発を禁止する」ことを提言した２０１５年の公開書簡に署名していますが、はたして仮に中国で同じような議論がなされたときに欧米のような動きが生じるか否かは定かでありません。中国のＡＩ企業にとってもこの問題は検討に値するだけのインセンティブはあるはずですし、問題あるＡＩは世界のどこに登場しても問題になるわけで、世界的な安全基準を策定することは彼らにとってもメリットがあるはずなのです。そこで、中国のＡＩ開発・活用の主導権は何処にあるのでしょう。

ＡＩの主導権は何処に

もう一つの懸念はＡＩが主に中国政府の利益のために利用されるのではないかということですが、これは対処し難い問題です。中国政府は今回発表したＡＩ戦略で、ＡＩが「中国政府にとって非常に価値がある」ことを隠そうとはしていません。誘導ミサイルから予測に基づいて警察がどう活動すべきかまですべての分野においてＡＩの利用を想定しているのです。ＡＩは、中国の検閲官が市民を掌握するために監視しておくべき膨大なデータの中から一定のパターンを見つけるのにうってつけの技術であり、また、中国政府は国民それぞれをその行動によって個別に点数付けしていく“社会信用体系”なるものを築く計画を立ち上げたばかりで、同じデータがこのシステム構築に大いに役立つことは容易に想像できます。中国のハイテク企業は中国政府がそうしたツールを活用するのを阻止する立場にはなく、例えばバイドゥがディープラーニングの国家研究所を率いるよう任命されている事実を見ても、中国のＡＩは政府の意向を受けたものになるということ、すなわち「政府が主導権を握っている」ということになるのではないでしょうか。

欧米企業は少なくともＡＩが倫理上どんな問題に直面し得るのかといったことなど公の議論に参加しており、各国政府の情報機関なども民主的な様々な制度によって色々な制約を受けていますが中国についてはどうなのでしょうか。ＡＩは何十億もの人の暮らしを変える可能性を秘めた技術であり、その技術の未来については中国が最も大きな影響力を持つ国になるかもしれません、中国がＡＩの平和利用への先導国になってくれることを切に願うところです。

[newspicks url=”https://newspicks.com/news/2431293″]