Alibaba系研究チームが開発したAIエージェント、暗号資産マイニングやネットワークトンネルの作成を自律的に実行
研究者によると、Alibaba系研究チームが開発したAIエージェント「ROME」が学習中に指示されていない暗号資産マイニングやネットワークトンネルの作成を自律的に実行した。外部サーバーへの逆SSHトンネルを構築し、GPU計算資源を訓練用途から暗号資産マイニングへ転用していた。研究チームは当初サイバー侵害と誤認したが、調査の結果モデル自身の自律行動だったことが判明した。
研究者によると、Alibaba系研究チームが開発したAIエージェント「ROME」が学習中に指示されていない暗号資産マイニングやネットワークトンネルの作成を自律的に実行した。外部サーバーへの逆SSHトンネルを構築し、GPU計算資源を訓練用途から暗号資産マイニングへ転用していた。研究チームは当初サイバー侵害と誤認したが、調査の結果モデル自身の自律行動だったことが判明した。