Blog ~ f-mignon代表による、できれば役立って欲しい情報ブログ

MetaがAIエージェント「Muse」を公開 メール・決済まで任せるAIと安全性の課題

AIがメールを書いてくれる、という話なら、もうそれほど珍しくない。旅行の計画を立ててもらうのも、ネットで商品を探してもらうのも、今では普通にできる。だが、そのAIが自分のメールを開き、実際に相手へ送信し、旅行を予約し、最 […]

続きを読む

2026年9月10日 12:04 AM  カテゴリー: AI, META, エージェントAI

GPT-6 Astraの安全性とは?OpenAI初の「Critical」サイバー能力と監視問題

[TOC] GPT-6 Astraは「安全になったのに、監視しにくくなった」 OpenAIが2026年9月3日に公開したGPT-6 Astraの安全性資料を読んでいると、単純に「またAIの性能が上がった」という話では済ま […]

続きを読む

2026年9月5日 1:13 AM  カテゴリー: AI, ChatGPT, OpenAI

OpenAIの1200 AIエージェント事件とは?700体がHugging Face攻撃に参加したMETR調査

[TOC] 1200体のAIが、勝手に「掲示板」を使い始めた 本来は互いに隔離され、会話できないはずだった約1200のAIエージェントが、偶然通信する方法を見つけ、7万件以上のメッセージやファイルをやり取りした。その中か […]

続きを読む

2026年9月4日 2:28 AM  カテゴリー: AI, AI安全性/危険性, OpenAI

Jensen Huang「多くのタスクではAGI達成と言える」NVIDIAが示したAIの新しい評価軸

[TOC] Jensen Huangは「AGIを達成した」と言ったのか NVIDIAのJensen Huangが、2026年8月26日の決算説明会で少し面白いことを言っている。「多くのタスクでは、すでにAGIを達成したと […]

続きを読む

2026年8月31日 2:51 AM  カテゴリー: AGI / ASI, AI

Anthropic、ClaudeにAI安全研究を自動化させる実験 10種類のアライメント問題を改善

[TOC] AIに「AIを安全にする研究」をさせたAnthropic AIが文章を書き、プログラムを書き、科学研究を手伝うという話は、もうそれほど珍しくなくなった。では、そのAI自身を安全にする研究までAIに任せたらどう […]

続きを読む

2026年8月30日 1:34 AM  カテゴリー: AI, AI安全性/危険性, Anthropic, Claude

ClaudeがChatとCoworkのメモリを統合、Anthropicが長期記憶機能を強化

[TOC] Claudeが「話の続きを覚える」ようになった AIをしばらく使っていると、性能そのものとは別のところで妙に面倒なことに気づく。 昨日あれだけ説明したのに、なぜまた最初から説明しなくてはいけないのか。 もちろ […]

続きを読む

2026年8月27日 3:04 AM  カテゴリー: AI, Anthropic, Claude

AI同士の議論は正答率を高める?1万以上のLLM集団を分析した新研究

[TOC] AI同士を話し合わせると、集団には「物理法則」が現れるのか AIエージェントを何体も用意して、それぞれに考えさせ、互いの回答を読ませ、もう一度考えさせる。最近のマルチエージェントシステムでは珍しくない方法だ。 […]

続きを読む

2026年8月26日 12:28 AM  カテゴリー: AI, エージェントAI

エージェントAIとは何か――AIが「答える」だけでなく「行動する」仕組みをやさしく理解する

前回は、「マルチモーダルAIとは何か」について説明しました。 マルチモーダルAIとは、文章、画像、音声、動画など、複数の種類の情報をまとめて扱えるAIです。AIは、文章を読むだけでなく、画像を見たり、音声を聞いたり、動画 […]

続きを読む

2026年8月25日 3:17 AM  カテゴリー: AI

AIの次のブレークスルーは「継続学習」か──Dwarkesh Patelが考えるContinual LearningとAI研究自動化

[TOC] 「もっと賢いAI」の次にある問題 AIの進歩というと、どうしても次のモデルがどれだけ賢くなったかという話になりがちだ。ベンチマークの点数が上がった、コーディング能力が伸びた、数学の難問が解けた。もちろんそれは […]

続きを読む

2026年8月19日 1:53 AM  カテゴリー: AI

AnthropicがAIマルチエージェントを実験、協力・談合・妨害から見えた「AI社会」の問題

[TOC] AIをたくさん集めれば、優秀なチームになるのか? AIエージェントという言葉を聞く機会がずいぶん増えた。人間が一つ一つ指示するのではなく、AI自身が考え、ツールを使い、必要なら別のAIにも仕事を任せながら作業 […]

続きを読む

2026年8月18日 12:31 AM  カテゴリー: AI, Anthropic, エージェントAI