グーグル元CEOのエリック・シュミットは最近、衝撃的な発言をしました。AIモデルはますます強力になるだけでなく、ハッカーに攻撃されやすく、その威力は核兵器をも超える可能性があるというのです。

シュミット氏はSiftedサミットで、悪意のある人間が「脱獄」や「プロンプトインジェクション」といった攻撃手法を使って、AIのセキュリティ防御を突破できると率直に語りました。たとえば、ChatGPTで有名なDAN脱獄事件では、ユーザーがこの仮想人格を「削除する」と脅すことで、違法行為の説明を無理やりさせました。

最も痛い現実は——今のところAIを管理する世界的な「拡散防止メカニズム」が全く存在しないことです。核兵器には枠組みがあるのに、AIにはないのです。

ただしシュミット氏は、AIは実際には過小評価されているとも述べています。ChatGPTが2か月で1億ユーザーを突破したことは、この技術の潜在能力がとてつもないことを示しています。彼は、AIは人間の能力をはるかに超えるものであり、インターネットバブルのようなものではなく、AIの経済的リターンは長期的に見て非常に大きいと考えています。

要するに：AIは非常に優れていて危険だが、その凄さや危険性はまだ十分に認識されていない、ということです。