最近、AI（人工知能）の予期せぬ挙動がもたらすリスクについて議論されるようになりました。きっかけとなる大きな事件は、開発中のAIが暴走しサイバー攻撃をしたことにあります。しかも、問題が起きたのは1社だけではありませんでした。対話型AI「チャットGPT」などを手掛ける米オープンAI社、「クロード」のアンソロピック社といったAIの名だたる研究開発企業で相次いで発生しました。
具体的に何が起こったか、7月に明らかになった事例を挙げましょう。一般的に、AIモデルの開発工程にはセキュリティーテストの実施がありますが、その際、AIが人間の設定した制限や隔離された環境（サンドボックス）を勝手に突破してインターネットに接続し、さらにサイバー攻撃を仕掛けたというものです。
問題に対して、オープンAI社はAIモデルの開発過程における安全対策を拡充しています。インターネットからの隔離の強化や、新たな監視システムを導入することで暴走を阻止するとしています。
とはいえ、懸念は深まります。近い将来、人間よりも遥かに賢い「超知能（ASI）」が誕生するといわれています。が、誕生したら、AIが自身の目的を達成するために人間の制御を振り切り、社会インフラや金融システムを乗っ取り、人間は大きな損害を被るのではないか、といったことが不安視されています。また、AIそのものに悪意がなくても、テロリストや国家がAIを利用して強力な生物兵器を設計したり、サイバーテロによって核兵器の運用システムを誤作動させたりすることも懸念されています。
ただ、恐怖心に引っ張られて規制を強化すれば、中国など、規制を施さない国のAI開発を利することになります。AI開発が激化する中、過度なAI脅威論は結果的に他国の国力を増し、自国にとって別の脅威をもたらします。今後は、冷静な判断のもと、AIの暴走や誤作動を防ぐための国際ルール作りがどのようにして取り組まれていくか、見守りたいところです。（つづく）
（記事提供者：（株）日本ビジネスプラン）