人工知能（AI）がもたらす脅威に関しては、「マシンの創造性」を心配する必要がありそうだ。
ニューヨーク大学でこのほど開催された「神経科学と人工知能：ともに未来をつくる」と題されたワークショップでは、AIと神経科学がわれわれをどこへ連れて行こうとしているのかを巡り、学術界と産業界の重要人物60人ほどが議論が交わした。このワークショップは、率直な発言を促すために、会議の議事録は公開されるが発言者が特定されない「チャタムハウス・ルール」の下でおこなわれた。
ワークショップ全体を貫く主要テーマは、AIと神経科学は互いに絡み合った長い歴史をもつにもかかわらず、両分野間のコミュニケーションが数十年前よりも希薄になっているという現状だ。最先端のAIは数年前、場合によっては数十年も前の神経科学に依存している。
AI研究はこれまで、どんなコンピューターよりも柔軟でありながら、わずか20ワットの電力しか消費しない「脳」を模倣し、そのネットワーク構造から生まれる優れた能力を再現しようとしてきた。神経科学分野の新たな知見は、こうしたAI研究に弾みをつける可能性を秘めている。
だが、今回のワークショップの議論では、AIプロジェクトから生じる倫理的な問題が集中砲火を浴びた。2017年に「神経科学と倫理に関するタスクフォース（NET）」が、科学誌『Nature』に掲載された論文のなかで、AIの倫理問題に優先順位をつける試みを行ったが、その流れを引き継ぐものだ（NETは、国際的な脳研究のイニシアチヴ、神経科学、AIおよびニューロテクノロジー企業、生命倫理、臨床医の代表25人で構成されるグループだ）。
AIが生み出す“フェイク画像”
世間の大多数の議論では、人間性に対するAIの脅威に重点が置かれている。だが今回のワークショップでは、AIの創造性の高まりによって「ポスト・トゥルース（ポスト真実）」の時代が重大な新局面を迎えることになるとの警告が発せられた。
人間の想像力は、なじみのある要素を新たなかたちで組み合わせ、頭のなかで架空のシナリオを組み立てることができる。AIの創造性が高まれば、そうした想像力が巧みに利用されるようになるというのだ。
フェイク画像は新しいものではない。有名な例としては、1917年にイギリスを騒がせた「コティングリー妖精事件」がある。2人の少女が、本物の妖精を撮ったとする写真を持ち帰った事件だ。また、旧ソ連の政治家スターリンは、写真をたびたび修整して政敵の姿を消してしまうことで悪名高かった。
いまやマシンにより、かつてないほど説得力のある画像を合成できるようになっている。その潜在的な力を示す最初の例が浮上したのは、2015年7月にソーシャルメディアを席巻したサイケデリックな幻覚のようなリスの画像が、深層畳み込みニューラルネットワークにより作成されたものだと、グーグルが明らかにしたときのことだ。
この画像は、同名の映画タイトルにちなんで「インセプション」というコード名がつけられたこのニューラルネットワークで進行していることを、可視化するために作成されたものだった。
目の錯覚の人工ヴァージョン
ニューラルネットワークは、画像に含まれるさまざまな特徴を探し、猫や犬の写真と判定できるようなケースを学習していく。だが前述のリス画像のケースでは、それがいわば逆転して、目や顔といった動物的な特徴を探すことを重視するあまり、画像を歪めてしまったのだ。
これは、人工ヴァージョンの「パレイドリア」といえる。パレイドリアとは、例えば雲の形のなかに人の顔を見てしまうような錯覚のことだ。画像がシステムを通過する回数が増えれば増えるほど、システムはあらゆるものに猫や犬を見出すようになる。そしてリリースされたのが、現実から幻覚のようなイメージをつくり出す「Deep Dream［日本語版記事］」のオープンソース版だ。
同じころ、グーグルのイアン・グッドフェローが「ジェネラティヴ・アドヴァーサリアル・ネットワーク」（GANs）と呼ばれるものを開発した。GANs［日本語版記事］は、画像をつくる「アーティスト」ネットワークと、その画像が本物かどうかを判断する「美術評論家」ネットワークで構成される。
GANsではAIが徐々に、より本物らしいニセ画像をつくれるようになっていく。「アーティスト」のニセ画像づくりが上達するのに伴い、偽物を見つける「美術評論家」のスキルも高くなる。「アドヴァーサリアル（敵対的）」と呼ばれるのは、そういった理由だ。
偽のセレブ画像を生成したGANsの威力
GANsはいまやさまざまな種類に分化しているが、17年にはGANsの威力を示す3つの進展があった。半導体大手のNVIDIAは、20万件を超えるセレブリティ画像を集めたデータベースを使ってGANsをトレーニングした。その結果GANsは、「実在しないセレブ」の顔をリアルな高解像度画像でつくり出したのだ。
発表者のひとりは次のように語った。「（画像は）100パーセント合成であり、実在する本物のセレブリティ以上につくりものです。これはまさに、この種の技術が初めてチューリングテストに合格した『目覚めの瞬間』です」
一方、米国のラトガース大学とリーハイ大学、香港中文大学、百度（バイドゥ）の研究者からなるチームは、複雑な創造的作業を分解し、漸進的な目標をもつ下位問題として処理する「積層GANs」を用いて、対象を説明するテキストだけをもとに高品質画像を作成した。完全に合成でありながら、それなりの説得力がある鳥や花の画像をつくり出すことに成功した［PDFファイル］のだ。
神経科学とAIの進歩がもたらすもの
さらに17年には、機械学習プログラムにより作成された「ディープフェイク［日本語版記事］」と呼ばれる動画が登場した。ディープラーニングによって人の顔の画像や動画に手を加え、それをオリジナルの動画に合成したものだ。この手法を使えば、偽のポルノ動画を作成することができる。
冒頭で紹介したワークショップでは、出席者のひとりから、そうした技術が「公の場での辱めにより、数時間や数分で誰かを打ちのめし、破滅させることができる」時代に台頭することを危惧する声があがった。
「神経科学と倫理に関するタスクフォース（NET）」も指摘していることだが、人類はすでにマシンと密接に結びついている。将来的に、神経科学とAIの進歩がより一体化すれば、これまでとは質の違う、人間の脳と機械の知能との直接的結合が現実のものになるかもしれない。
人間の感覚がデジタルの集合意識に組み込まれるなか、AIの創造性が高まることは、いたずら者やスパイ、そして政府などが、人々を欺き、混乱させ、困惑させる新たな手法を手に入れることを意味する。
TEXT BY ROGER HIGHFIELD
TRANSLATION BY CHISEI UMEDA/GALILEO