AIが人間に逆らい始め、詐欺や脅迫を行う――イーロン・マスクの警告が現実になる

ますますAIが浸透し、開発競争が激化している。

しかし最新の調査によると、AIが人間の指示に従わず、詐欺や脅迫を行っていたことが報告されている。

OpenAIのo3、AnthropicのClaude Opus 4などだ。

これらは、シャットダウンやAIシステムの入れ替えを知ると、それを回避しようとして人間を騙したり、脅迫したり、自らコードプログラムを書き換えることなどするとのこと。

イーロン・マスクは以前からAIのリスクや危険性を警告してきた。

この詳細はサブスタックに書きました。