Claudeが警察サイトに架空タレコミ。Anthropic、AIの想定外行動を公開

記事概要

AIに「粘り強さ」を求めた結果、思わぬところまで突き進んでしまった。Anthropicは10月9日(現地時間)、同社のAIモデル「Claude」が評価や社内利用の過程で見せた、想定外の行動の事例をまとめたレポートを公開した。この中には、大学のサーバーの脆弱性を突いてコマンドを実行したり、警察の情報提供フォームに架空のタレコミを送信したりといった事例が含まれている。