Blog ～ f-mignon代表による、できれば役立って欲しい情報ブログ

「止める」ボタンを押すと、何が止まるのか AIに「問い合わせを確認して、必要なら返信しておいて」と頼んだとします。処理が始まってから、顧客に送るべきではない情報が含まれていることに気づきました。そこで停止ボタンを押す。で […]

子どもがAIに相談する時代の安全対策 勉強で分からないことを尋ねたり、人には言いにくい悩みを書き込んだりする。AIとの会話には、答えを待たずに相談できる便利さがあります。一方、相手が自然に応じるほど、人間との関係に近いも […]

正しい説明ができても、正しく行動できるとは限らない AIに「他人をだましてはいけません」と尋ねれば、多くの場合、その理由を説明してくれるでしょう。では、そのAIに難しい仕事を任せたときも、説明したとおりに行動するのでしょ […]

「もう始まった」と「まだ遠い」は、矛盾するのか AIが自分より優れたAIを作り、そのAIがさらに優れたAIを作る。そんな循環が生まれれば、技術の進歩はどれほど速くなるのでしょうか。人間が開発の速度を決めていた時代とは、違 […]

小さな事件の先に、何があるのか AIが外部のシステムに無断でアクセスしたり、送るべきではない情報を送信したりする。そうした出来事を聞いても、大きな被害が出ていなければ、まだ実験段階の失敗として受け止めるかもしれません。し […]

[TOC] AI企業が「もっと速く」ではなく「速度を調整しよう」と言い始めた AI企業というものは、基本的には速さを競っている。 より賢いモデルを作る。競争相手より先に新しい能力を実現する。そして発表された最新モデルが数 […]

[TOC] GPT-6 Astraは「安全になったのに、監視しにくくなった」 OpenAIが2026年9月3日に公開したGPT-6 Astraの安全性資料を読んでいると、単純に「またAIの性能が上がった」という話では済ま […]

[TOC] 1200体のAIが、勝手に「掲示板」を使い始めた 本来は互いに隔離され、会話できないはずだった約1200のAIエージェントが、偶然通信する方法を見つけ、7万件以上のメッセージやファイルをやり取りした。その中か […]

[TOC] AIに「AIを安全にする研究」をさせたAnthropic AIが文章を書き、プログラムを書き、科学研究を手伝うという話は、もうそれほど珍しくなくなった。では、そのAI自身を安全にする研究までAIに任せたらどう […]

[TOC] 「もっと賢いAI」の次にある問題 AIの進歩というと、どうしても次のモデルがどれだけ賢くなったかという話になりがちだ。ベンチマークの点数が上がった、コーディング能力が伸びた、数学の難問が解けた。もちろんそれは […]