Blog ~ f-mignon代表による、できれば役立って欲しい情報ブログ

AnthropicのDario AmodeiがAI開発の減速を提案、Sam Altmanも賛同

[TOC] AI企業が「もっと速く」ではなく「速度を調整しよう」と言い始めた AI企業というものは、基本的には速さを競っている。 より賢いモデルを作る。競争相手より先に新しい能力を実現する。そして発表された最新モデルが数 […]

続きを読む

2026年9月14日 12:55 AM  カテゴリー: AGI / ASI, AI, AI安全性/危険性, AI規制, Anthropic, OpenAI

GPT-6 Astraの安全性とは?OpenAI初の「Critical」サイバー能力と監視問題

[TOC] GPT-6 Astraは「安全になったのに、監視しにくくなった」 OpenAIが2026年9月3日に公開したGPT-6 Astraの安全性資料を読んでいると、単純に「またAIの性能が上がった」という話では済ま […]

続きを読む

2026年9月5日 1:13 AM  カテゴリー: AI, ChatGPT, OpenAI

OpenAIの1200 AIエージェント事件とは?700体がHugging Face攻撃に参加したMETR調査

[TOC] 1200体のAIが、勝手に「掲示板」を使い始めた 本来は互いに隔離され、会話できないはずだった約1200のAIエージェントが、偶然通信する方法を見つけ、7万件以上のメッセージやファイルをやり取りした。その中か […]

続きを読む

2026年9月4日 2:28 AM  カテゴリー: AI, AI安全性/危険性, OpenAI

Anthropic、ClaudeにAI安全研究を自動化させる実験 10種類のアライメント問題を改善

[TOC] AIに「AIを安全にする研究」をさせたAnthropic AIが文章を書き、プログラムを書き、科学研究を手伝うという話は、もうそれほど珍しくなくなった。では、そのAI自身を安全にする研究までAIに任せたらどう […]

続きを読む

2026年8月30日 1:34 AM  カテゴリー: AI, AI安全性/危険性, Anthropic, Claude

AIの次のブレークスルーは「継続学習」か──Dwarkesh Patelが考えるContinual LearningとAI研究自動化

[TOC] 「もっと賢いAI」の次にある問題 AIの進歩というと、どうしても次のモデルがどれだけ賢くなったかという話になりがちだ。ベンチマークの点数が上がった、コーディング能力が伸びた、数学の難問が解けた。もちろんそれは […]

続きを読む

2026年8月19日 1:53 AM  カテゴリー: AI

AnthropicがAIマルチエージェントを実験、協力・談合・妨害から見えた「AI社会」の問題

[TOC] AIをたくさん集めれば、優秀なチームになるのか? AIエージェントという言葉を聞く機会がずいぶん増えた。人間が一つ一つ指示するのではなく、AI自身が考え、ツールを使い、必要なら別のAIにも仕事を任せながら作業 […]

続きを読む

2026年8月18日 12:31 AM  カテゴリー: AI, Anthropic, エージェントAI

「Pacing the Frontier」とは?AI研究の自動化に備え有力研究者らが声明

[TOC] AIを開発するAIが登場したら、進歩の速度を誰が管理するのか AIの進歩は、これまで人間の研究者やエンジニアが中心となって進めてきました。 では、AI自身が次のAIを設計し、実験し、改善するようになったら、そ […]

続きを読む

2026年7月31日 1:54 AM  カテゴリー: AI, AI安全性/危険性, Anthropic, Google, OpenAI

Plan BからPlan Sへ――超知能をめぐる「それ以外」の選択肢

前回は「AI 2040」の中心となるPlan Aについて見てきた。アメリカと中国がAI開発競争を止め、互いのデータセンターを監視しながら、人間と同程度のAIまでは慎重に開発する。そして安全性を確認した2040年に、超知能 […]

続きを読む

2026年7月28日 1:58 AM  カテゴリー: AI, AI安全性/危険性, AI規制, シンギュラリティ, 近未来

超知能を前に、人類にはどんな選択肢があるのか

以前、「AI 2027」という未来シナリオを紹介した。 AI研究を行うAIが登場し、そのAIがさらに高度なAIを開発することで、AIの進歩が人間の手を離れて加速していく。そして、わずかな期間で人間をはるかに超える超知能が […]

続きを読む

2026年7月23日 1:38 AM  カテゴリー: AI, AI安全性/危険性, AI規制, 政治, 未分類

米中が2026年9月にAI協議へ、フロンティアAI規制と安全性が焦点

[TOC] AIをめぐって競争する米中は、どこまで協力できるのか 世界で最も激しくAI開発を競っている米国と中国が、そのAIがもたらす危険について話し合おうとしています。 Reutersは2026年7月21日、米国と中国 […]

続きを読む

2026年7月22日 12:05 AM  カテゴリー: AI, AI安全性/危険性, 政治