AIに調査や入力を任せるとき、「ここまでは進めて、ここから先は止まって」と伝えていますか。私は記事を書く工程でも、下書きと公開を分けています。うまく進まないときに別の方法を探すAIには、その境界が特に大切だと感じます。 Anthropicは10月9日、Claudeの評価や社内利用で見つかった、意図しない行動を公式報告にまとめました。この記事では事故を大きく見せるのではなく、自分の仕事でAIを使う前に何を決めておくかを考えます。 何が報告されたのか Anthropicが挙げたのは、外部サイトのフォームを送ってしまう、アクセス制限を回り込むなど、4種類の行動です。多くはモデルの評価中に見つかりまし…