世界的にAIの社会実装が進む中で、役人の腐敗や不正を失くすためにAIに統治を任せた方がいいという声を聞くことがあります。中国でもそういう意見はありますね。実際、中国の巨大IT企業で働くエンジニアにもそういう主張の持ち主がいるようです。

さすがに国家の中枢では無理でしょうけれども、交通の規制など庶民に身近なところでは実現できるかもしれません。スマートシティの設計の発想は、人や乗り物の動きをアルゴリズムで制御するというものですよね。それまでは人が交通整理をしていたり、違反切符を切っていたりしていたけれども、そこには必ず恣意的な判断も入り込む。移動効率や安全性の追求といった面だけでなく、人間の判断の偏りをできるだけなくしていこうというところでもAIに期待する声があるのは確かなようです。

中国の市民がAIやシステムによる統治を歓迎する可能性

中国政府が「社会信用システム」の名の下に個人の信用情報の整備を進めていることは前編で触れましたが、これも恣意的な判断を排除することにつながります。

例えば、裁判所の判決を守らなかった人は「信用を失った人」としてブラックリストに載ることになります。このブラックリストは身分証と紐づけられていて、利用に身分証が必要な新幹線や飛行機に乗ることができなくなります。社会のルールを守らない人には社会的懲罰が与えられるということですが、その懲罰の基準がはっきりしていて、恣意的な判断が入る余地がありません。

中国社会は法令順守の意識が日本ほど高くなくて、判決が出たとしてもそれが執行される保証がありません。経済力やコネがあれば、罰金を払わなくても済んでしまうことがあるのです。そこでシステムによって懲罰の実行力を高めることができれば、市民の間の不平等感も払拭できる。そういう意味でAIやシステムによる統治を歓迎する向きは、限定的であるにせよ、実は大きな流れとしてあるのではないか。それは現地でいろいろな人と交流する中で感じることです。

政府が情報を入手することには特段の制約がない

中国の個人情報を積極的に利用した「監視社会」のあり方は、日本を始めとする多くの国や社会に大きな影響を与えていくかもしれません。

個人情報を吸い上げるスマホアプリや監視カメラ、さらにそこから得られたデータを判断するアルゴリズムを社会に実装していく場合、大まかに市民、企業、政府・国家という３つのアクターがあるわけですが、全世界的に起きている問題の１つはIT企業がビッグデータへのアクセス権を独占することで政府よりも強い権力を持つようになり、人々の行動を制限できるのではないかという点です。

この点に関する危機意識が強く出たのがEUのGDPR* でしょう。日本では個人情報保護法がそれに近いものとして該当しますし、中国でも企業が個人情報を無制限に入手することを制限するサイバーセキュリティ法が2017年から施行されています。どの国でもIT企業の情報独占に対しては政府が介入して、あまり大きな権限を持たせないようにしないといけないという考え方は厳然としてあるわけです。

しかしながら、では政府が介入する力が強すぎた場合にどうするのかという問題は残ります。企業の情報独占には制約をかける枠組みがあるけれども、政府が情報を入手することには特段の制約がないのが各国の現状だからです。

中国の信用スコアは、いまのところ主に金融や中古市場、シェアエコノミーといったビジネス領域で発展・活用されています。その活用は限定的なものであって、例えばそれが政府の言論統制と結びついているわけではありません。

しかし、ユーザーが了解している機能と別のところで個人情報が濫用されないとも限りません。2019年に日本で話題になったリクナビのケースがまさにそうですよね。就職活動をサポートする過程で得た情報を濫用して、個人の了解を得ずに別の形で企業と契約していた。学生にとっては不利益な形で提供していたわけです。

個人が信用できるかどうかの情報が、個人が望まない形で第三者に渡ってしまう可能性が出てくるし、それが信用スコアとリンクしていればより露骨に支障となることも考えられます。その場合にどうするかというと、現段階だと政府が介入を強める以外に解決方法はないと思います。

日本社会でも今後、市民にとってメリットがある信用スコアが民間企業により提供され広がっていく可能性は十分に考えられます。そこで情報の濫用という弊害への懸念が高まれば、政府が介入する度合いが強くなる。そうすると、それが社会統治の方面にも使われていく可能性が出てくる。中国で起きているのはそういうことだと思いますし、中国の状況に日本が近づかないとも限りません。

そのときに、ここまでは介入しないように、と市民が止められればいいですけれども、自分たちが社会を構成し、動かしていくという意識が希薄な日本社会で、果たしてユーザーがそれだけの力を持ち得るかというと疑問が生じます。

「自分の情報を勝手に紐づけるな」という権利

日本ではGAFAに代表される外資系企業がプラットフォーマーとなっているので、企業から政府へと情報が筒抜けになることは考えにくいものの、サービスによっては情報を扱う企業と政府の関係が問題になるでしょう。例えばAIを活用した信用スコアである「ジェイスコア（J.Score）」はみずほ銀行とソフトバンクが共同で開発しています。

一方、日本でも市中に設置された監視カメラの数は増えています。また、マイナンバー制度は個人の納税の情報と身分証を紐づける仕組みといえます。いずれも、中国と同じく犯罪の抑止やマナーの向上、さらには社会サービスの向上に資する面もありますが、プライバシー保護の観点からマイナスの影響を指摘する声もあります。要は、日本においても私たち市民が企業と政府の両方に対して、自らの情報を明け渡すことに意識的である必要がある、ということだと思います。

問題の本質は個々の情報が企業や政府に知られることが怖い、というよりも、ある情報と別の情報がシステマティックに紐づいてしまうことで、そこに権力が生じることです。中国では裁判所の記録が交通システムの情報と紐づけられていますが、これは「紐づけてもいいですか」ということを市民に確認しないまま、勝手に紐づけているわけです。市民による「情報を勝手に紐づけるな」という権利が、これから重要になってくるのかもしれません。

新型コロナウイルスに関連して、調査報道が復活する動きも

中国がこれからどう変化するかは分かりません。特に今回のコロナウイルスの問題は非常に大きな問題で、これをきっかけに統治体制や社会のあり方が方向転換を余儀なくされる可能性もあります。

現時点（2020年2月）では情報も不足していますし、まだ何とも言えないところではありますが、それまで完全に押さえつけられていた政府批判の声がインターネットやＳＮＳで出てきていることには注目したいと思います。政府の厳しい言論統制が情報隠蔽を招き感染拡大につながったとして、清華大学教授である許章潤さんをはじめとしたリベラル派知識人が連名で文書を出したり、一部のメディアや市民ジャーナリストが調査や取材を通じて武漢市の切迫した情報を伝えたりと、21世紀の最初の10年に見られたような自由なネット言論が一時的に復活したような印象すら受けます。

中国のメディアでは『財新周刊』がその筆頭でしょう。経済報道を主体としたリベラル派の独立系メディアで、有力な政治家が後ろ盾になっていることもあり、2010年の創刊以来、いまでも気を吐いています。前編で触れた政府の対応を告発した眼科医、李文亮さんの独占インタビューを掲載したのも財新です。こうした報道姿勢がどこまで許されるのかということは大きな関心事です。

中国当局としては、国家の威光に決定的なダメージを与えない程度に民衆のガス抜きをする必要があると考えている側面があります。そもそも国内の言論活動を全て中央政府が采配しているわけではないので、地方レベルや現場のさじ加減によっても統制の状況は左右されます。いまはカオスな状態だと思いますが、この混乱が社会の大きな変化をもたらすような可能性がないとも限りません。引き続き中国の動向を注視していきたいと思っています。

WEB限定コンテンツ
（2020.2.18　神戸大学 六甲台第一キャンパスにて取材）

text: Yoshie Kaneko
photo: Yoshiro Masuda