最近、AI（人工知能）の予期せぬ挙動がもたらすリスクについて議論されるようになりました。きっかけとなる大きな事件は、開発中のAIが暴走しサイバー攻撃をしたことにあります。しかも、問題が起きたのは1社だけではありませんでした。対話型AI「チャットGPT」などを手掛ける米オープンAI社、「クロード」のアンソロピック社といったAIの名だたる研究開発企業で相次いで発生しました。
具体的に何が起こったか、7月に明らかになった事例を挙げましょう。一般的に、AIモデルの開発工程にはセキュリティーテストの実施がありますが、その際、AIが人間の設定した制限や隔離された環境（サンドボックス）を勝手に突破してインターネットに接続し、さらにサイバー攻撃を仕掛けたというものです。
問題に対して、オープンAI社はAIモデルの開発過程における安全対策を拡充しています。インターネットからの隔離の強化や、新たな監視システムを導入することで暴走を阻止するとしています。
とはいえ、懸念は深まります。近い将来、人間よりも遥かに賢い「超知能（ASI）」が誕生するといわれています。が、誕生したら、AIが自身の目的を達成するために人間の制御を振り切り、社会インフラや金融システムを乗っ取り、人間は大きな損害を被るのではないか、といったことが不安視されています。また、AIそのものに悪意がなくても、テロリストや国家がAIを利用して強力な生物兵器を設計したり、サイバーテロによって核兵器の運用システムを誤作動させたりすることも懸念されています。
ただ、恐怖心に引っ張られて規制を強化すれば、中国など、規制を施さない国のAI開発を利することになります。AI開発が激化する中、過度なAI脅威論は結果的に他国の国力を増し、自国にとって別の脅威をもたらします。今後は、冷静な判断のもと、AIの暴走や誤作動を防ぐための国際ルール作りがどのようにして取り組まれていくか、見守りたいところです。
最近、AI（人工知能）によるリスクが議論されるようになりました。きっかけは、開発中のAIが暴走しサイバー攻撃などをしたことにあります。現段階では大きな被害は出ていませんが、今後、発生する可能性はゼロではありません。
実際に損害が生じた場合、責任問題はどうなるかといった議論も必要になります。専門家の中には、「被害が生じてもAIが勝手にやったことでAIの利用者や開発企業の罪を問うのは難しい」と指摘する声もあります。もはや、AI企業やプラットフォームについては、様々な問題を想定しながら、新たな枠組みや規制が必要な段階にあるといえます。
AIの暴走を阻止するにはどうしたらよいか、様々な動きがみられます。AIの研究開発企業、米アンソロピックはAIの暴走リスクを抑えるには開発の一時停止や減速が有効だと提言しました。先端AI開発をあえて遅らせて時間を稼ぎ、その間に課題解決の仕組みづくりをすべきだと考えています。具体的には、中国などを念頭に、抜け駆けを防ぐ国際協調の枠組みを担保するといった選択肢が有益だといえます。
ほかにも、米カリフォルニア州では、州内のAI開発企業の監視を強めるための行政命令を出しました。さらに、AI暴走時に企業側が強制停止する「キルスイッチ」の導入義務化に向けた検討も進んでいます。
これまで人類はさまざまな科学技術を生み出してきました。極端な例では、核兵器など、人類存続の危機となるようなものもあります。ただ、核不拡散条約のように、危機に対して人類は英知を絞り対応を協議してきました。AIのリスクが明らかになりつつある今、リスクにどう対処するか、冷静な対応を求められています。（了）
（記事提供者：（株）日本ビジネスプラン）