生成AIも安全運転！　注目を集める「LLM用のガードレール」とは何か　AIの事故を防ぐために企業がすべきこと：小林啓倫のエマージング・テクノロジー論考（1/3 ページ）

　この世に自動車というものがなかったとして、それがいま急に発明されたとしよう。発明されたのは自動車だけで、道路も、交通ルールも、教習所も存在していない。そんな世界で自動車から歩行者の命を守るためには、何が必要になるだろうか？

　もちろん交通ルールや自動車メーカーに対する規制などを整備して、自動車が正しく使われる社会を整えていかなければならないが、それには時間がかかる。目の前の事故を防ぐためには、物理的に事故を防ぐ、より正確に言えば「自動車が歩行者にぶつからないようにする」仕組みがすぐに必要だろう。そんな仕組みの一つが「ガードレール」だ。

安全運転には欠かせない仕組み「ガードレール」

　単にガードレールと言うと、フェンスや手すりのようなものまで含まれるが、ここで言っているのは当然ながら「自動車用のガードレール」である。車道と歩道の間に設置してあるあれだ。ガードレールが存在することで、物理的な限界はあるものの、自動車が暴走しても歩行者に危害を加えることは無くなる。

　話が長くなったが、ここで話をしたいのは当然ながら自動車用のガードレールの話ではない。今回取り上げるのは、いま生成AIや大規模言語モデル（LLM）を導入した企業、導入を検討している企業の間で注目を集めるようになっている「LLM用のガードレール」の話だ。

LLMのガードレールとは何か？

　生成AIのエンジンであるLLM、あるいはLMM（大規模マルチモーダルモデル）は、先ほどのたとえ話で言うところの「世の中に突然現れた自動車」に当たる。

　研究者の間では、LLMは以前からおなじみの存在だったかもしれないが、一般の企業からすればそれはレーダーの圏外から急に飛び出してきた存在だ。もちろん各種AIアプリケーションについては、これまでも企業内で導入・活用に向けた取り組みが進められてきたが、その際には自社内でモデルを用意したり、独自に開発を委託したりすることが多かった。

　しかしLLMの登場により、外部開発の大規模モデルを社内に導入するという選択肢が急浮上してきたわけだ。

　たとえ話を続けさせてもらえれば、企業はその中で「公共交通機関を導入したい自治体」、LLM開発企業は「バス会社やタクシー会社」に相当する。企業が社外開発のLLMを完全にコントロールするのは不可能であり、その自動車の性能はLLMの開発元次第だ。究極的には、運転席でハンドルを握っているのはLLMを開発した企業ということになる。

　しかし事故が起きたとき、その責任を問われ、被害を受けるのは“LLMを導入した企業”になる。そのため、企業は自動車（LLM）を社会に受け入れてもらうために「安全に運転できるようにルールを作ります」「暴走しないような安全装置がある自動車を走らせます」と宣伝するが、ハルシネーションやバイアスといった問題が続いているのはご存じの通りだろう。

　そこで企業は、LLMの被害を防ぐために「ガードレール」、すなわち自分たちの側で進められる安全対策に注目するようになっているわけである。LLM自体の安全性を高めてもらうために、モデルの開発企業に働きかけを行ったり、政府にしかるべき規制を整備するよう要請したりすることも重要だが、外部に期待しているだけでは企業として責任を果たせない。