中国社会を覆う「見えない檻」、犯罪予測AIが実現したSFディストピアへようこそ

同様の技術は、すでに実用化されている。2022年、天津の警察はメグビイの競合会社であるヒクビジョンが作った、抗議行動を予測することを目的としたソフトウェアを購入した。このシステムは、何人もの中国人陳情者（中国では、地方公務員に対する苦情を当局に申し立てようとする人々の総称）に関するデータを収集する。

そして、陳情者が北京に行く可能性を点数化する。調達書類によると、将来的には、このデータは機械学習モデルを訓練するために使用される予定です。

地方政府は、政治的な恥や不正の露呈を避けるために、このような旅行を防ぎたいと考えています。また、中央政府も不満を持つ市民が首都に集まることを望んでいない。

ヒクビジョンの担当者は、このシステムについてのコメントを避けた。

習近平政権の下で、陳情者をコントロールする政府の努力はますます侵襲的になっている。不動産詐欺の救済を長年求めてきたグループの32歳のメンバー、ゼクン・ワン氏は、2017年に当局が北京行きのチケットを買う前に、上海で仲間の陳情者を取り押さえたと語った。彼は、当局がソーシャルメディアアプリ「WeChat」での彼らの通信を監視しているのではないかと疑っていた。

近隣の北京市や河北省の警察と協力して運営されている天津のHikvisionシステムは、より洗練されている。

調達書類によると、このプラットフォームは、社会的・家族的関係、過去の旅行、個人的な状況に基づいて、個人が請願する可能性を分析する。警察がそれぞれのプロフィールを作成するのに役立ち、"偏執的"、"几帳面"、"短気 "など、抗議者の気質を説明する欄が設けられている。

陳情する人の多くは、悲惨な事故に対する政府の誤った対応や、事件のネグレクト（放置）などを理由に陳情するのだが、これらはすべてアルゴリズムに取り込まれているのだ。「社会的地位が低かったり、大きな悲劇を経験したりした場合は、その人の早期警戒リスクレベルを上げる」と調達文書には書かれている。

福建省の農村県である周寧の警察は、2018年に439台のカメラを新たに購入した際、それぞれが設置される場所の座標を記載した。調達書類によると、あるものは交差点の上に、あるものは学校の近くに吊るされた。

9台は、精神疾患という共通点をもつ人々の家の外に設置された。

データを使って新たな脅威を発見しようとするソフトウェアもあるが、より一般的なのは、警察の先入観に基づくものだ。タイムズ紙が調査した100以上の調達文書では、監視は「重要人物」のブラックリストを対象としていた。

いくつかの調達書類によると、これらの人々には、精神疾患を持つ者、有罪判決を受けた犯罪者、逃亡者、麻薬使用者、請願者、テロリスト容疑者、政治扇動者、社会の安定を脅かす者などが含まれていた。その他、移民労働者、アイドルユース（学校も仕事もない10代の若者）、少数民族、外国人、H.I.V.感染者などを対象とした制度もあった。

誰がリストに載るかは当局が決定し、載ったことを通知するプロセスはないことが多い。専門家は、この新しい技術は中国国内の格差を助長し、最も恵まれていない人々に監視の目を向けることになると懸念している。

多くの場合、このソフトウェアは単に人口を対象とするだけでなく、当局が脅威の可能性を示すデジタル・トリップワイヤーを設定することを可能にしている。Megviiのプレゼンテーションでは、Yituのライバル製品について詳しく説明し、このシステムのインターフェースによって、警察が独自の早期警告を考案することを可能にしました。

空欄を埋めるだけの簡単なメニューで、警察は、ブラックリストに載った人物がどこに現れるか、いつ動き回るのか、他のブラックリストの人物と会っているか、特定の行動の頻度など、特定のパラメータに基づいてアラームを出すことができるのだ。例えば、薬物使用歴のある2人が同じホテルにチェックインしたときや、抗議活動歴のある4人が同じ公園に入ったときに警告を発するように設定することができる。

Yituは、電子メールによるコメント要請には応じなかった。

まずは自助

2020年、南寧市では、警察は「3人以上の重要人物が同じホテルや近くのホテルにチェックインする」「麻薬使用者が頻繁に新しい市外の番号に電話をかける」ことを調べることができるソフトウェアを購入したと入札文書に記されている。カルスト地形の山々で有名な観光地、陽朔では、労働許可証のない外国人が外国語学校やバーを長時間うろついた場合に警告するシステムを当局が購入し、ビザのオーバーステイや不法就労者を捕まえようとしているようだ。

上海では、ある政党が発行する出版物に、当局がソフトウェアを使用して、通常の水道や電気の使用量を超えている人々を特定する方法が紹介されていた。このシステムは、疑わしい消費パターンを発見すると、警察に「デジタルホイッスル」を送信する。

この方法は、出稼ぎ労働者を検出するために考案されたものである可能性が高い。警察は、出稼ぎ労働者を、地域社会に犯罪を持ち込む可能性のある、つかみどころのない、しばしば貧困にあえぐ集団とみなしているところもある。

自動化された警報は、警察の対応と同じレベルには達しない。クラーク大学の教授で中国の警察を研究しているスザンヌ・E・スコギンズは、「警察はしばしば、抗議活動など社会の安定を脅かす政治的問題を指摘する警告を優先する」と指摘する。

時には、警察は人々をプロファイリングする必要性を明言している。「ビッグデータの応用を通じて、人々の姿を描き出し、さまざまな属性のラベルを与える」と、中国国家警察大学の研究者である李偉は、2016年の講演で述べた。"1種類以上のラベルを受け取った人に対しては、そのアイデンティティと行動を推測し、ターゲットを絞った先制的なセキュリティ対策を実施します。"

張さんは、文化大革命の際に家族が拷問されたことに対する補償を求め、政府に陳情したのが始まりです。その後、警察による家族への監視について陳情している。

中国が技術権威主義的な手段を構築するにつれ、彼はスパイ映画の戦術を使って、「ハイテクでナチス化」した監視を回避しなければならなくなった、と彼は言う。

1月に山東省の村から北京へ行ったとき、携帯電話の電源を切り、交通費も現金で支払って、デジタルフットプリントを最小限に抑えた。警察の追跡を逃れるため、行き先を間違えた列車の切符を購入した。身分証明書を提示すればアラームが鳴る検問所では、個人ドライバーを雇った。

警察の調達書類によると、天津のシステムには、彼のように「反偵察に対する一定の認識」を持ち、定期的に車を乗り換えて検知を回避する人のための特別な機能があるそうです。

システムを作動させたかどうかは別として、張氏はある変化に気づいている。彼が携帯電話の電源を切ると、必ず警官が家にやってきて、彼が新たに北京に出かけていないことを確認するのだという。

ロンドン大学経済学部の教授で、中国における監視システムの影響を研究しているノーム・ユクトマン氏は、警察システムが行動を正確に予測できなくても、当局は脅威を与えるために成功したと考えるかもしれない、と述べた。

「政治的な説明責任がない状況下では、頻繁に警察官を送り込む監視システムは、暴動を抑制するために「かなり効果的」であるという。

一旦、指標が設定され、警告が発せられると、警察官にはほとんど柔軟性がなく、中央集権的な管理が行われる。 専門家や警察の公開報告書によれば、警察官は自動化された警報への対応や抗議行動の防止効果で評価される。

この技術には、権力の不均衡が内包されている。入札書類のなかには、監視システムが無視しなければならない人々の「レッドリスト」に言及しているものもある。

ある国の調達文書では、この機能は「プライバシー保護やVIP保護が必要な人たち」のためのものだと書かれていた。また、広東省の文書では、より具体的に、レッドリストが政府関係者のためのものであると規定されている。

張さんは、テクノロジーによって政治権力者と一般市民が切り離されていることに不満を表明した。

「当局は問題を真剣に解決しようとせず、問題提起をした人を黙らせるために何でもする。「これは社会にとって大きな後退だ」。

張氏は、技術の力を信じているが、使い方を間違えると「災いや足かせ」になると述べた。

「昔は、家を出て田舎に行けば、すべての道は北京につながっていた。「今は、国全体がネットになっている」。

絶対住みたくないけど、はたから見てる分にはワクワクするな

>>7
上級国民＝習近平の仲間
というだけだが
少しでも逆らったら即刻吊られる

マイノリティリポート定期

このAIの精度が90％ととかなら10％は被害者なんよ

シビュラかプレコグかアルファコンプレックスか

長すぎて読まないけど中国終了はわかった

長えよ

リース君！

お天道様の代わりに天網見ているぞ
もうお前ら悪さできないな

出稼ぎ労働者の監視は必要だよな

>>18
引きこもりは相対的に信用スコアが高くなっていいじゃん☺
安心安全な街

犯罪者以外は何も困らない
ディストピアで上等
自由すぎて毎日銃乱射事件が起きてる国に中国を悪く言う権利はない

エリート理系が支配するとこうなるんだろ
合理性でしかものを考えないから人間を人間扱いしなくなる

携帯の電源切っただけで警官が家に来る(つまり100%監視されてる)のがケンモの理想郷なの？
日本に居なくていいじゃん

スーパーで何も買わないで出ていくと
危険人物DBに登録されて共有される
再来店時には警備員に連絡が行く

日本ではこれが7年位前から

これもうフィリップ・K・ディックの世界だろ