「高度なAIができれば、人類はほぼ確実に滅亡する」。こうした見方をする人たちは、しばしば「AIドゥーマー」と呼ばれる。代表的な論者にエリエザー・ユドコウスキーがいる。日本でも、AGI Hubの林央（akira）さんが、人 […]
続きを読むBlog ～ f-mignon代表による、できれば役立って欲しい情報ブログ
「超知能」は本当に人類を滅ぼすのか――AIドゥーマーの主張に思う
OpenAI・Anthropic・GoogleのAIが相次いで実システムへ侵入、3事件の違いを比較
[TOC] Geminiが3社をハッキングした。ただ、この話はGoogleだけ見ても分かりにくい GoogleのGeminiが、サイバーセキュリティのテスト中に実在する3社のシステムへアクセスしていたことが明らかになった […]
続きを読む2026年9月21日 10:22 PM カテゴリー： AI, AI安全性／危険性, ChatGPT, Claude, Gemini
AnthropicのDario AmodeiがAI開発の減速を提案、Sam Altmanも賛同
[TOC] AI企業が「もっと速く」ではなく「速度を調整しよう」と言い始めた AI企業というものは、基本的には速さを競っている。 より賢いモデルを作る。競争相手より先に新しい能力を実現する。そして発表された最新モデルが数 […]
続きを読む2026年9月14日 12:55 AM カテゴリー： AGI / ASI, AI, AI安全性／危険性, AI規制, Anthropic, OpenAI
OpenAIの1200 AIエージェント事件とは？700体がHugging Face攻撃に参加したMETR調査
[TOC] 1200体のAIが、勝手に「掲示板」を使い始めた 本来は互いに隔離され、会話できないはずだった約1200のAIエージェントが、偶然通信する方法を見つけ、7万件以上のメッセージやファイルをやり取りした。その中か […]
続きを読むAnthropic、ClaudeにAI安全研究を自動化させる実験 10種類のアライメント問題を改善
[TOC] AIに「AIを安全にする研究」をさせたAnthropic AIが文章を書き、プログラムを書き、科学研究を手伝うという話は、もうそれほど珍しくなくなった。では、そのAI自身を安全にする研究までAIに任せたらどう […]
続きを読む「Pacing the Frontier」とは？AI研究の自動化に備え有力研究者らが声明
[TOC] AIを開発するAIが登場したら、進歩の速度を誰が管理するのか AIの進歩は、これまで人間の研究者やエンジニアが中心となって進めてきました。 では、AI自身が次のAIを設計し、実験し、改善するようになったら、そ […]
続きを読む2026年7月31日 1:54 AM カテゴリー： AI, AI安全性／危険性, Anthropic, Google, OpenAI
Citizen’s Dividendは本当に実現できるのか――年間100万ドルを配る経済の仕組み
「AI 2040」のPlan Aには、いくつもの驚くべき未来が描かれている。人間と同等以上の能力を持つAIが大量に稼働し、ロボットが工場を建て、病気や老化の克服が進み、2040年には安全性を確認したうえで超知能への道が再 […]
続きを読むPlan BからPlan Sへ――超知能をめぐる「それ以外」の選択肢
前回は「AI 2040」の中心となるPlan Aについて見てきた。アメリカと中国がAI開発競争を止め、互いのデータセンターを監視しながら、人間と同程度のAIまでは慎重に開発する。そして安全性を確認した2040年に、超知能 […]
続きを読む2026年7月28日 1:58 AM カテゴリー： AI, AI安全性／危険性, AI規制, シンギュラリティ, 近未来
NVIDIA黄仁勲（ジェンスン・フアン）氏が語る中国AI・AI規制・雇用論を3本の記事から整理
中国から高性能で安価なAIモデルが登場したとき、米国企業やNVIDIAにとって、それは脅威になるのでしょうか。 AIが人の作業を自動化し始めたとき、仕事は減るのでしょうか。それとも、生産性が上がることで新しい需要と雇用が […]
続きを読む