Newsweek

中国

中国が世界54カ国にAI監視技術を輸出

2019年4月24日(水)17時57分
スティーブン・フェルドスタイン(米ボイシ州立大学准教授)

    2018年に中国で開催されたセキュリティに関する展示会で、監視カメラメーカーのCCTVカメラを覗く参加者たち Thomas Peter- REUTERS

    <デジタル技術の進歩によって、政府が国民を監視する能力は飛躍的に向上した。監視の先頭を行く中国は国内の少数民族を弾圧し、その技術を世界中の独裁者に輸出し始めている>

    米テック大手マイクロソフトは、軍事研究を行う中国の大学と提携して、政府の監視と検閲の機能を強化する人工知能(AI)システムを開発している。両者の事業提携に米上院議員2人が公に批判の声を上げているが、懸念されるのは、中国の国防科技大学がマイクロソフトに望んでいることだけではない。

    私の研究が示すように、デジタル技術による政治弾圧手法の登場は、国民と国との関係に大きな影響を与えている。新技術のおかげで、政府は国民を監視、追跡、調査する前代未聞の能力を手にしている。法の支配の強い伝統を持つ民主主義国の政府でさえ、こうした新しい能力を乱用しがちだ。

    不可解な制度や人権侵害が多い国では、AIシステムがより大きな被害をもたらす可能性が高い。中国はその代表的な例だ。政権幹部はAI技術を熱烈に受け入れ、新疆ウイグル自治区に世界最新の監視システムを構築、住民の日々の動きとスマートフォン使用状況を追跡している。

    中国によるこれらの技術の悪用は、世界の独裁者たちにとっては格好の手本となり、開かれた民主的な社会にとっては、直接の脅威となる。中国以外の政府がこのレベルのAIによる監視を再現したという証拠はないが、中国企業は同様の基礎技術を世界中へ積極的に輸出している。

    進む警察のAI依存

    人工知能システムは世界のいたるところに存在し、スマートフォンやインターネット検索エンジン、デジタル音声アシスタント、ネットフリックスの映画一覧表示機能を支援する。分析するデータ量の増加、アルゴリズムの向上、高度なコンピュータチップのおかげで、AIがいかに急速に拡大しているか、気づかない人は多い。

    より多くの情報が入手でき、分析が容易になるときはいつでも、政府は興味を持つ――それは独裁政権だけではない。たとえばアメリカでは1970年代に、政府の情報機関(FBI、CIA、NSAなど)が公民権運動家や政治活動家、アメリカ先住民のグループを監視し、攻撃するための広範な国内監視ネットワークを設立したことが明らかになった。

    こうした問題は消え去ってはいない。今日のデジタル技術のせいで、より多くの組織がもっと深く入り込んで対象を監視することができるようになった。

    たとえば、アメリカの警察は積極的にAI技術を採用している。警官がパトロールをすべき場所を決めるために、犯罪が起こりそうな場所を予測するソフトウェアを使い始めた。また犯罪捜査にも顔認識とDNA分析を使用している。

    だがこうしたシステムによる分析は、データが偏っていることが多く、アフリカ系アメリカ人は他のグループより犯罪に手を染めやすいという誤った判断を下すなど、不公平な結果につながりかねない。

    100万人を恣意的に拘禁

    独裁政権の国では、AIシステムによる国内の統制と監視の直接的な支援が可能になる。国内治安当局が大量の情報処理をする際も強い味方だ。処理すべき情報に含まれるのは、ソーシャルメディアの投稿やテキストメッセージ、eメール、電話など。警察はこうしたシステムから明らかになった情報に基づいて、社会の動向と政権を脅かす可能性がある特定の人々を割り出すことができる。

    たとえば、中国政府は、国内の少数民族居住地域での大規模な取り締まりにAIを使用している。新疆ウイグル自治区とチベット自治区に対する監視システムは、ジョージ・オーウェルの小説『1984年』に登場する全体主義社会の市民に対する常時監視システムを思わせるところから「オーウェル式」と呼ばれている。

    こうしたシステムには必ずDNAサンプル、Wi-Fiネットワークの監視および広範な顔認識カメラが含まれ、すべて統合データ分析プラットフォームに接続されている。米国務省によると、これらの制度を利用して中国当局は、100万人から200万人を「恣意的に拘禁」している。

    世界54カ国に中国のAI監視技術が

    私の調査対象は、タイ、トルコ、バングラデシュ、ケニアなど閉鎖的な独裁政権から欠陥のある民主主義政権まで、世界90カ国に及んでいる。この研究の過程でわかったのは、研究対象のうち54カ国に中国企業がAI監視技術を輸出していることだ。

    多くの場合、このテクノロジーは、中国が最も力を注いでいる経済外交圏構想「一帯一路」の一部に組み込まれている。中国はこの構想のもとで道路や鉄道、エネルギーパイプライン、電気通信などの広範なネッワークに資金を提供。最終的に世界のGDPの40%を生み出し、世界の総人口の60%がこの経済圏で暮らすことを目標としている。

    たとえば、中国通信機器大手ファーウェイやZTE社などの中国企業は、パキスタン、フィリピン、ケニアで、監視技術を組み込んだ「スマートシティ」を構築している。

    フィリピンの先進商業地区ボニファシオ・グローバルシティでは、「犯罪の発見と交通管理のためのデータ分析機能を備えた24時間365日稼働するAIによる監視」を可能にするために、ファーウェイの高解像度インターネット接続カメラが設置された。

    中国の画像・顔認識技術企業であるハイクビジョン(海康威視)やYITU(依图)、センスタイム(商湯科技)は、最先端の顔認識カメラを提供。国内監視プログラムの設立を発表したシンガポールは、国内にある街灯11万本の柱にこうした顔認識カメラを設置するという。ジンバブエは、顔認識に使用できる全国的な画像データベースを作成している。

    ただし、高度な機器を販売して利益をあげることと、この技術を明確な地政学的目的で共有することとはまた別の話だ。こうした新しい能力は、世界規模の監視体制の素地を作ることになるかもしれない。政府は国民の管理や権力の維持にあたって、中国の技術への依存を深めていくだろう。だが今のところ、中国の主な動機は新技術の市場を独占し、その過程で多くの金を稼ぐことであるように思われる。

    ニセ情報も作れるAI

    広範囲にわたり、かつ精度の高い監視機能を提供することに加えて、AIは抑圧的な政府が利用可能な情報を操作し、不正な情報を拡散させる手助けもする。こうした活動は自動化することもできるし、特定の人やグループ、あるいは特定の個人向けのメッセージを展開することもできる。

    AIはまた、非常にリアルな動画と音声の「ディープフェイク」と呼ばれる合成技術の進歩に貢献している。真実と嘘の境界を混乱させることは、選挙が接戦になったときには役に立つかもしれない。対立候補が現実とは異なることを話したり、行ったりするところを見せるニセ動画を作成できるかもしれない。

    民主主義国の政策立案者は、自分たちの社会や世界中の全体主義政権の国で生きる人々に対するAIシステムのリスクについて慎重に考えるべきだ。

    重要な問題は、中国のデジタル監視モデルをどの国が採用するのか、ということだ。だが、それは全体主義的な国だけではない。また売り込むのも中国の企業だけではない。マイクロソフトを含む多くの米企業――IBM、シスコ、サーモフィッシャーなどは、問題のある政府に高度な技術を提供してきた。AIの悪用は独裁国家の専売特許ではない。


    Steven Feldstein, Frank and Bethine Church Chair of Public Affairs & Associate Professor, School of Public Service, Boise State University

    This article is republished from The Conversation under a Creative Commons license. Read the original article.

    注目のキーワード

    注目のキーワード

    ニューストピックス

    本誌紹介

    特集:AI vs. 癌

    本誌 最新号

    特集:AI vs. 癌

    ゲノム解析と人工知能で最適な治療薬を発見する究極の癌治療が人類を「最後の敵」から救う日

    2019年10月22日号  10/16発売

    人気ランキング

    • 1

      性行為を拒絶すると立ち退きも、家主ら告発

    • 2

      交尾をめぐって噛みつき合う、暴力まみれのサメの日常

    • 3

      新EU離脱協定案はイギリス経済に「相当厳しい」内容だった

    • 4

      「歩くのが遅いと老化がすすむ」その兆候は40代半ば…

    • 5

      未成年性的虐待の被告の大富豪が拘置所で怪死、米メ…

    • 6

      韓国は、日本の対韓感情が大きく悪化したことをわか…

    • 7

      光がねじまげられる......ブラックホールをビジュア…

    • 8

      中国の探査機が月に持ち込んだ植物の種、ハエの卵...…

    • 9

      W杯アジア2次予選の北朝鮮vs韓国「無事に帰れたのは…

    • 10

      がん患者の42%が診断から2年で資産を使い果たす:米…

    • 1

      韓国は、日本の対韓感情が大きく悪化したことをわかっていない

    • 2

      性行為を拒絶すると立ち退きも、家主ら告発

    • 3

      ヘイトに立ち向かったK-POPアイドル、ソルリ追悼写真集

    • 4

      中国の探査機が月に持ち込んだ植物の種、ハエの卵...…

    • 5

      韓国・文在寅の賃上げ政策が招いたこと──映画館からス…

    • 6

      交尾をめぐって噛みつき合う、暴力まみれのサメの日常

    • 7

      韓国訪問中に消えた9人のベトナム外交団員 公安当局…

    • 8

      未成年性的虐待の被告の大富豪が拘置所で怪死、米メ…

    • 9

      性的人身売買から救われた少女が自殺 犯人の男と家…

    • 10

      日本と韓国の危険なゲームが世界経済を殺す

    • 1

      韓国で長引く日本製品不買運動、韓国企業への影響が徐々に明らかに

    • 2

      写真撮影で「怪しいOKサイン」を出したテーマパークのスタッフが解雇

    • 3

      イランで逮捕された「ゾンビ女」の素顔

    • 4

      「OK」のサインは白人至上主義のシンボルになったの…

    • 5

      韓国は、日本の対韓感情が大きく悪化したことをわか…

    • 6

      繁殖を止めるために遺伝子組み換えされた蚊、自然界…

    • 7

      「独島が韓国の領土であるとの証拠は何もない」韓国…

    • 8

      米韓関係の険悪化も日本のせい⁉ 文在寅がまた不安な…

    • 9

      性行為を拒絶すると立ち退きも、家主ら告発

    • 10

      全米最悪93人の連続殺人犯が「驚異的」な記憶力で描…

    もっと見る

    Picture Power

    レンズがとらえた地球のひと・すがた・みらい

    【写真特集】豪華クルーズ船はますます好調