最近、AI（人工知能）によるリスクが議論されるようになりました。きっかけは、開発中のAIが暴走しサイバー攻撃などをしたことにあります。現段階では大きな被害は出ていませんが、今後、発生する可能性はゼロではありません。
実際に損害が生じた場合、責任問題はどうなるかといった議論も必要になります。専門家の中には、「被害が生じてもAIが勝手にやったことでAIの利用者や開発企業の罪を問うのは難しい」と指摘する声もあります。もはや、AI企業やプラットフォームについては、様々な問題を想定しながら、新たな枠組みや規制が必要な段階にあるといえます。
AIの暴走を阻止するにはどうしたらよいか、様々な動きがみられます。AIの研究開発企業、米アンソロピックはAIの暴走リスクを抑えるには開発の一時停止や減速が有効だと提言しました。先端AI開発をあえて遅らせて時間を稼ぎ、その間に課題解決の仕組みづくりをすべきだと考えています。具体的には、中国などを念頭に、抜け駆けを防ぐ国際協調の枠組みを担保するといった選択肢が有益だといえます。
ほかにも、米カリフォルニア州では、州内のAI開発企業の監視を強めるための行政命令を出しました。さらに、AI暴走時に企業側が強制停止する「キルスイッチ」の導入義務化に向けた検討も進んでいます。
これまで人類はさまざまな科学技術を生み出してきました。極端な例では、核兵器など、人類存続の危機となるようなものもあります。ただ、核不拡散条約のように、危機に対して人類は英知を絞り対応を協議してきました。AIのリスクが明らかになりつつある今、リスクにどう対処するか、冷静な対応を求められています。（了）
（記事提供者：（株）日本ビジネスプラン）