作った本人が言うのだから。
GoogleにMeta、マイクロソフトもみーんなAIに夢中ですが、AIの父とも称されるジェフリー・ヒントン氏がちょっとこのスピードやばすぎる、世界規模の規制が必要だと警告しています。
｢AI技術の推進には規制が必要｣
ヒントン氏は、数々の賞を受賞しているコンピュータ科学、ニューラルネットワークの研究者で、人工知能研究の第一人者です。GoogleでAIの開発に携わってきましたが、これ以上規制がないままAI技術を推し進めていくことは危険だとニューヨークタイムズの取材に対して答えています。
ヒントン氏は自らを原子爆弾の開発をした原子爆の父と呼ばれるロバート・オッペンハイマーと同じようだと語っていて｢AIをコントロールできるこかどうかを理解するまでは、これ以上開発するべきではない｣とはっきり述べています。また世界中でAIが多くの仕事を担っていくことにも懸念しているそうです。
元々ヒントン氏が｢AIの父｣と呼ばれるようになったのは2012年、トロント大学にいた時に2人の学生のニューラルネットワークの構築を手伝ったことから。このネットワークは犬や花など、物体の認識を自己学習していくプログラムでした。それが現在のAIの形になっていったわけです。
Googleは2013年にトロント大学にいたヒントン氏を氏の研究ごと買収し、会社を設立。そのAI開発会社をGoogleのトロント支部のような形でヒントン氏に研究を続けてもらっていました。その後、GoogleはさらなるAI開発のためにディープラーニングの会社DeepMindを買い取ります。
そしてヒントン氏の会社は2021年、マイクロソフトを含む大手テック企業からたくさんのオファーを受け始めます。そして今年の4月、ヒントン氏はGoogleを退社の意思をCEOのスンダー・ピチャイ氏に伝えます。AI研究に携わっている間は、AIの危険性について話すことを避けたいと言っていたヒントン氏。その言葉通り、Googleを退社してこうしてAIの危険性について語りはじめているんですね。
Twitterでも本人が｢ニューヨークタイムズの記事で記者が私がGoogleを辞めたからGoogleの批判を始めていると取れることを発言していますが、そうではなくて辞めからGoogleに影響を与えることなくAIの危険性について話せるようになったのです｣と発言しています。
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
AIの急激な進化と開発に懸念を示しているのはヒントン氏だけではありません。
3月には｢コントロール不能になっているAIの開発競争を一旦停止すること｣を求めた公開署名にテック企業で働く500人の研究者、またイーロン・マスク、Appleの共同創設者のスティーブ・ウォズニアックも署名しています。
ただ企業のAI合戦は早くやったもん勝ちになっているので、研究者たちの懸念とは裏腹に、全く止まるところを知りません。
