政府機関に利用される製品の倫理問題が、テック業界で注目されている。こうした問題に引きずり込まれた企業のリストに、最近になって名を連ねたのがマイクロソフトだ。
2018年1月に公式ブログに投稿されていた記事に関して、このほどマイクロソフトが批判を浴びた。記事のなかで、同社は米国移民・関税執行局（ICE）との業務連携を誇らしげに語っていたのだ。同社のクラウドコンピューティング・プラットフォーム「Microsoft Azure」に関して、機密ではないが慎重に扱う必要のあるICEの情報を、処理できるようにする政府の認可が下りたことを喧伝する内容だった。
この記事は、マイクロソフトのジェネラルマネージャーを務めるトム・キーンが宣伝目的で書いたものだった。記事にはICEが政府機関専用クラウド「Azure Government」を利用すること、そして「ディープラーニング機能を利用して、顔認識と身元確認を加速する」ことも含まれるという概略が説明されていた。
「ICEは現在、国土安全保障と公共の安全を目的とした斬新な技術の導入を進めています。当社はこうした業務を、われわれのミッションクリティカルなクラウドを使って支援していることを誇りに思います」
この投稿が再び注目されたのは、不法移民の家族が米国に到着した途端に強制的に引き離され、一部の子どもたちを檻の中に収容したとされるICEの仕事ぶりに対する怒りの声が高まっていた最中のことだ。こうした措置を批判する人々は、ソーシャルメディア上でマイクロソフトを激しく非難し、ICEとの業務連携を打ち切るよう求めた。
顕在化する政府との関係性
『Surveillance Valley』の著者であるジャーナリストのヤシャ・リーヴァインは、テック企業は監視されるべきだとしたうえで、次のように指摘する。「（そうした監視は）『ターミネーター』のスカイネットのような派手なものへの懸念だけに留まらず、シリコンヴァレーのテック企業と軍や警察との“一体化”がより日常的で現実的なものになっていることにも注目する必要があります。そのような例はとても多くなっています」
政府と連携するシリコンヴァレー企業に対する批判のなかには、トランプ政権による特定の政策から始まったものもある。リーヴァインによると、ICEはGoogleマップを利用している。「このことによって、グーグルはトランプ大統領の移民政策に共謀していることになるでしょうか。わたしはなると思います」とリーヴァインは述べるが、オバマ政権時代も政府の各機関はGoogleマップを利用していたことも指摘している。
マイクロソフトでかつて製品マネージャーを務めていたナイルズ・グオは、同社がもっと適切に対処するべきだと主張している。同氏はTwitterで、「われわれがどのプロジェクトを引き受けるかはとても重要で、それには現実の世界と結びついた意味合いがある」とツイートしている。「自分たちの業務の倫理的な意味合いについて考えることなく、コードの裏側に隠れるようなことはできない」
マイクロソフトでインターンとして働いているコートニー・ブルーソーは、同社の最高経営責任者（CEO）サティア・ナデラに宛てて次のようにツイートしている。「マイクロソフトの現在のインターンとして、なぜマイクロソフトが『（ICEの業務の）支援を誇りに思う』のかを知りたい」
テック業界の従業員を対象にした労働団体「Tech Workers Coalition」はツイートのなかで、マイクロソフト従業員に向けて、自分たちが反対していることを連携して示すように促しながら、次のように書いている。「マイクロソフトでこれらのツールなどをつくっている従業員のみなさんは、自分が共謀しないことをいま決断してください」
マイクロソフトに対する不信感
Azureは、マイクロソフトのクラウドコンピューティング・サーヴィスのブランド名であり、顧客データの保管から顔認識まで幅広い機能がある。同社は6月18日（米国時間）に次のような声明を発表した。
「（弊社は）国境で子どもたちが家族から引き離されたことに関連するいかなるプロジェクトについても、米国移民・関税執行局および米国税関・国境警備局との業務連携は行っておりません。一部のご意見とは反対に、AzureまたはAzureのサーヴィスがこのような目的に使用されることを弊社は認識しておりません」
さらにマイクロソフトは、家族の分離を招いた政策を批判した。「マイクロソフトは一企業として、国境で子どもたちが家族から強制的に引き離されていることに非常に驚きを感じています」と述べ、「政府が政策を変更し、議会が法案を承認して、子どもたちがこれ以上家族から引き離されないようにすることを強く求めます」
この声明を発表する前にマイクロソフトは、1月のブログ投稿から、ICEとの連携について述べた4段落を一時的に削除した。同社は『WIRED』US版に対し、当初は「手違い」で削除したと話していたが、あとになって削除は判断ミスだったと述べている。
マイクロソフトに対する社会からのこのような反感は、シリコンヴァレーの出現以来、防衛業務や軍事産業と緊密に連携してきたテック企業の倫理的姿勢が変化していることの表れといえる。トランプ大統領の当選後まもないころ、イスラム教徒を登録するデータベースを構築しないとした協定を発端に、テック企業各社は、技術者が団結して自分たちの異議を公表することに注意を払うようになった。
プライヴァシー保護をめぐる懸念
最近の議論のほとんどは、人工知能（AI）を利用してドローンで撮影した動画に映る物体を識別したり、顔認識で人々を識別したりすることに関するものだ。数カ月前には、AIを軍に適用することを目指す「Project Maven（プロジェクト・メイヴン）」に対するグーグルの関与に反対する嘆願書に、4,000人を超える同社の従業員が署名した。
社内から上がった異議の声は、大学関係者や研究者、株主など外部からも支持された。6月15日（米国時間）には、アルジュナ・キャピタルやゼヴィン・アセットマネージメント、ソーシャル・エクイティ・グループをはじめとするアマゾンの株主たちが、CEOであるジェフ・ベゾスに対する公開書簡を公表した。
その内容は、アマゾンの画像認識ソフトウェア「Amazon Rekognition」を政府による監視で利用することについてである。妥当性がアマゾンの役員会によって確認されるまで、このソフトウェアの機能拡張や開発を停止するよう求めるものだ。アマゾンがRekognitionを各地の警察署に売り込んでいたと報道されてからは、消費者団体や人権擁護団体も、アマゾンに対して、Rekognitionを政府向けの提案から外すように求めている。
Project MavenがAIを武器に応用したことで一線を越えたと考える人々がいる一方で、そこまで確信がもてない人々もいる。国境問題やドローンに関してシリコンヴァレーの諸企業が政府と連携することを支持する人々は、技術の向上によって米国人のさらなる安全を維持できると主張している。ロッキード・マーティンよりはグーグルのほうが顔認識をうまく扱ってくれるだろう、というわけだ。
一方で、このような防衛業務を支援する各企業が膨大な量の個人情報収集も行っているのであれば、消費者のプライヴァシーは存在するのかという疑問が生じる。アマゾンはコメントを拒否し、グーグルはコメントの要求に返答しなかった。
グーグルのケースでは、従業員の抗議に加え、AIに携わる一流の研究者たちからも支援の書簡が送られたことが効果をもたらした。CEOのサンダー・ピチャイが6月、19年で期限が切れるProject Mavenの契約を更新しないと発表したのだ。ただし、「政府およびProject Maven以外の多くの分野における軍との業務連携」は続けると、ピチャイは説明している。
TEXT BY NITASHA TIKU
TRANSLATION BY MAYUMI HIRAI/GALILEO