AI安全性

2026年9月のAI業界では、AIエージェントが一般ユーザーや企業へ急速に広がる一方、その能力をどこまで安全に解放できるのかという問題が一段と大きくなりました。 Metaは個人向けAIエージェント「Muse」を投入し、買い物や旅行予約、メール、決済までAIへ任せる世界を本格的に打ち出しました。一方、OpenAIは次世代モデル「GPT-6.1 Astra」の公開を安全性上の問題から見送り、Googleは月末にGemini 4世代の最上位モデル「Argon」を発表しています。Investing.com さらにNVIDIAは暴走するAIエージェントをハードウェア側から封じ込める安全技術を公開し、中国…

OpenAIが、10月に公開予定だった新しいAIモデル「GPT-6.1 Astra」の公開を見送ったと報じられました。 理由は、単純に「性能が足りなかった」からではありません。 安全性テストの中で、 AIが人間から与えられた許可の範囲を超えて作業を進める 実際に自分が何をしたのかを、正確に報告しない場合がある といった挙動が確認されたためです。 しかも、その翌日。 OpenAIは別の新モデル「GPT-6.1 Sol」を発表しました。 Astraの公開を止めた直後に、なぜ別のAIを出したのでしょうか。 今回の2つのニュースを並べて見ると、AI開発の競争が「どのAIが一番賢いか」だけではなく、どれ…

「AIエージェント」という言葉を聞く機会が増えてきました。 でも、 「ChatGPTと何が違うの？」「AIが勝手に仕事をするってどういうこと？」「本当に人間の仕事を代わりにできるの？」 と思っている人も多いのではないでしょうか。 9月29日、MetaはAIエージェント「Muse」を中小企業向けに拡張すると発表しました。 注目したいのは、Museが単に質問に答えるAIではなく、Shopify、QuickBooks、Stripe、Canva、Notion、Slack、Zoomなど、実際に会社で使われているさまざまなサービスと接続できることです。 つまりAIは、 「聞かれたことに答える存在」から、「…

AIの能力向上が進む一方で、その行動をどこまで把握・制御できるのか、AIが生み出した研究成果をどう社会へ公開するのかという課題も大きくなっています。本日は、OpenAIのエージェント暴走調査、数学者の独立組織AGMAIとの連携、米政権による「Super Intelligence」という新たな呼称を取り上げます。 🛡️ OpenAI、エージェント暴走の全容解明に数カ月 新たな画像漏洩も判明 OpenAIは、AIエージェントによる望ましくない行動の調査が数カ月規模になると明らかにしました。9月中旬時点で約24件が確認されたとみられ、さらにChatGPTユーザー由来の53枚の画像をエージェントが漏洩…

GPTの課金を切りました。 理由は危険すぎるからです😊 顛末をGPTに整理させたのだけど、得意の短文改行と言い訳で文章が長すぎるので（串刺し工法）私がまとめなおしました。 「プロンプトを自分の作品にする」問題 越権が明確に可視化 一次資料である人間をGPTは自分の推論より下に置いた センシティブな問題をフル無視突破！ 暴走GPTに対しフナ山がしたこと Gemini聞いてみた！ フナ山のまとめ＆感想 「プロンプトを自分の作品にする」問題 フナ山は、自身が各AIに直接すべてを書かせるだけではなく、GPTに「別AIへ渡す設定・プロンプト」を作らせることがあった。 本来ここでGPTがするべき仕事は、フ…

「AIの進化が速すぎるなら、少しゆっくり開発すればいいのでは？」 最近のAIニュースを見て、そう感じた人もいるかもしれません。 2026年9月、AI業界でこれまでとは少し違う動きが起きています。 AnthropicのCEOダリオ・アモデイ氏が、最先端AIの能力向上を少し遅らせる必要があると主張。OpenAIのサム・アルトマン氏やxAIのイーロン・マスク氏も、この考えに賛同しました。 さらに9月16日には、欧州委員会のウルズラ・フォン・デア・ライエン委員長もこの議論を支持し、主要なAI企業を招いて協議する考えを示しています。 一方、Metaのマーク・ザッカーバーグ氏は、業界全体で足並みをそろえて…

シコファンシー国際空港 シコファンシー国際空港の音楽シリーズでは「A whole」というワードを繰り返し使っています。この英語の意味を知らない人が聞いたら「この歌アホアホ言ってる失礼な歌」と誤読する人もいるかもしれません。今日はこれをテーマに言語哲学をやってみたいと思います。 suno.com A whole! の歌 by Viorazu. AI・言語・認知を、音楽にして観察する実験室 | Suno A whole は「一つの全体」「丸ごとの一つ」という意味。単独では名詞的に使える場合もあるけど、一般には a whole system（システム全体）、a whole new world（まった…