Amazon Echoの盗聴騒動について振り返ると、やっぱりスマスピは予測不可能で怖い

人類にとって予測不能。

Amazon（アマゾン）のスマートスピーカーAmazon Echoが起こす、もっとも恐ろしいことって何でしょうか。 現実に起きることを考えてみてください。いつのまにか人工知能（AI）が夫婦の会話を録音して、その内容を勝手に知り合いに送ってしまったり？ …そんなの悪夢じゃないですか。でも、これが現実に起きてしまったんです。

オレゴン州ポートランドに住む夫婦は、部下から驚くべき電話を受けました。その内容は｢いますぐにAlexaがつながるデバイスのスイッチを切って！ あなたたちはハッキングされているから｣というもの。ただの悪い冗談かと思いきや、彼は夫婦の会話を録音したオーディオファイルを受け取ったと説明しました。にわかには信じられない夫婦でしたが、送られてきたファイルを再生してみると、なんとAmazon Echoが許可なくプライベートな会話を録音し、シェアしていたのです。それも、犯人はハッカーではありませんでした。

Amazon側は｢非常に稀な例｣として、ポートランドの夫婦に起きたことを認めました。どういうわけか、Amazon Echoは室内のノイズを起動コマンドと誤って認識し、会話を録音して従業員に送る指示と聞き違えたというのです。

Amazonは音声認識アシスタントのAlexaが、送信前に｢～さんでよいですか？｣と確認を求めたはずだと主張していますが、この夫婦は確認メッセージなど一切耳にしていないと語っています。そもそも録音されていたことを知る由もありませんでした。

恐ろしいのは、正常な使い方にも関わらず起きたから

この一件、近未来を描いたSFドラマの『Black Mirror』みたいだと思わず一笑に付したくもなりますけど、そんなふうに簡単に片づけてしまってはいけません。この出来事こそ、常時起動する音声アシスタントを家に入れると、どのようなプライバシーの悪夢が訪れてしまうかを示す現実を表わしているからです。Amazon EchoやGoogle Homeなどのスマートスピーカーは、ほかのインターネットに接続されたテクノロジーと同じく便利さと引き換えにプライバシーを犠牲にするという消費者の決断をハッキリと示しているのです。

ちなみに、どんなプライバシーが犠牲になっているのかは私たちにはわかりません。現在、スマートスピーカーが音声認識ソフトの認識率を高めるために、ユーザーの声を録音することはわかっています。

また、GoogleやAmazonは音声コマンドのデータ収集も進めています。子どものいたずらから話者の気分まで分析し、ターゲット広告やコンテンツのパーソナライズを行なうため、数々の特許技術を有していることも明らかになっています。

具体的には、すでにAmazonはスポンサーをつけてAlexa搭載デバイスの広告テストを進めています。さらに音声コマンドに基づく広告を流すために、各企業とも交渉していることが伝えられてました。たとえば｢汚れを落としたいんだけれど｣と尋ねると、Alexaが｢Clorox｣の広告で返してくるのような…。でも、これはまだ着想にすぎません。

現実の世界は、ある意味もっと恐ろしいものです。常にインターネットに接続し、音声認識で操作することができるこの技術はあまりに新しく、いつどんなふうにバグを起こすのか、先が読めないのです。そして、もしバグが起きたら結果としてどんなことが起こるのかも一切わかりません。たとえば、先に紹介したAlexaのバグは、ハッキングのようなセキュリティ上の被害ではありませんでした。システムが不十分だったゆえに、設計上の致命的な欠陥が引き起こしたことですよね。今後、AlexaやGoogle Assistantがもっと多くのデータを収集し、音声認識レベルを向上させていく途中で、このような事件が起きることは容易に想像できます。

さらに今回起きたことは、スマートスピーカーを想定通りに使っていたうえでの話です。そのうえ、ソフトウェアのバグやセキュリティ問題、政府による介入など、予期せぬ影響に音声アシスタントがさらされたら、一体どうなってしまうのでしょう？

例として、昨年はタッチパネルのバグによってGoogle Home Miniが監視ツールと化してしまう危険性が指摘されたりしました。また、セキュリティ研究者たちがAlexaを常時盗聴可能なスパイツールに変えられることも実証済みです。さらにAmazonは、要請があればAmazon Echoの録音データを司法機関に提供することすらいとわないという事実も忘れてはいけません。しばらくの間、FBIがAmazon Echoから聞き耳を立てては情報収集していることだって十分にありえるのです。

Siriが批判されない理由と、今後スマスピは買うべきか？

…ところで、Apple（アップル）やSiriが、これまで監視ツールと結びつけて取りあげられていないことにお気づきでしょうか？ スマートスピーカーのHomePodやSiri対応のデバイスは、いままで1度もスキャンダルになったことがありません。Appleはいつも、Siriのコマンドは匿名化、暗号化され、デバイスのみに保存されていると説明してきました。これぞSiriがAlexaより安全性が高い理由だということは、あまり注目されていないですよね。現時点では、Appleの音声認識技術がソフトウェアの不具合のせいで夫婦のプライベートな会話を録音し、無差別に送信するという不祥事は一度も報じられていません。…現時点ではね。

Alexaに限っていうなら、手元に置くことを考え直したほうがよいでしょう。Amazonは、Google Homeの販売台数が初めてAmazon Echoを上回ったというニュースが報じられたタイミングで、今回のエラーを認めました。これはただの偶然でしかないかもしれません。Amazonは、AIと機械学習の分野でやや行き詰まってしまったのではないでしょうか？

これまでも、GoogleのスマートスピーカーのほうがAmazon Echoより優れていると米Gizmodo編集部は声をあげてきました。いまやAlexaは、その劣った性能ゆえに危険であるとさえ感じ始めています。Alexaのバグには恐怖を覚えます。勝手に会話を録音してしまうなど、本当に恐ろしいとしかいいようがありません。

また、これは自衛策で避けられる悲劇です。いまのところ、Amazon Echoを買わなければいいのですから！ 友だちにプレゼントするのもやめておいたほうがいいでしょうね。

Image: Gizmodo US
Source: Clorox

Adam Clark Estes - Gizmodo US［原文］
（湯木進悟）