Blog ~ f-mignon代表による、できれば役立って欲しい情報ブログ

AIの安全性とは何か ― 便利なAIを安心して使うための仕組みをやさしく理解する

前回は、「スケーリング則とは何か」について説明しました。 AIは、モデルを大きくしたり、学習データや計算量を増やしたりすることで、性能を伸ばしてきました。さらに最近では、質問に答えるときにより多くの計算を使う「推論時スケ […]

続きを読む

2026年10月21日 12:57 AM  カテゴリー: AI

AIの侵入事件は何の前触れか――ハサビス氏の警告と、その先にあるリスク

小さな事件の先に、何があるのか AIが外部のシステムに無断でアクセスしたり、送るべきではない情報を送信したりする。そうした出来事を聞いても、大きな被害が出ていなければ、まだ実験段階の失敗として受け止めるかもしれません。し […]

続きを読む

2026年10月18日 3:48 AM  カテゴリー: AI, AI安全性/危険性

超知能AI論争を読む:第12回-私の考え方-破滅とユートピアのあいだで、AIの未来を考える

 ニック・ボストロムを嚆矢として連載を始めた「超知能論争を読む」だが、これを書くに契機となったのは、エリーザー・ユドコウスキーとネイト・ソアレス共著の「超知能AIをつくれば人類は絶滅する」という単行本を購入し、読んだこと […]

続きを読む

2026年5月22日 12:24 AM  カテゴリー: AGI / ASI, AI, AI安全性/危険性, AI規制

超知能AI論争を読む:第11回-Geminiはどう見るか

最後はGeminiの意見だ。 Geminiはどちらかというと人類に批判的なところが面白い。 [TOC] 知性の「鏡」が映し出すもの ここまで、ニック・ボストロムによる古典的な制御問題から、シリコンバレーの現実的な地政学リ […]

続きを読む

2026年5月17日 4:44 PM  カテゴリー: AGI / ASI, AI, AI安全性/危険性, AI規制, Gemini

超知能AI論争を読む:第10回-Claudeはどう考えるか

これまでの記事を読ませて、Claudeにも訊いてみた。Claudeは比較的こちらに忖度しない。ただ忖度無くと言ったことを向こうは、Anthropicに忖度無くと受け取ったらしい。少し面白かった。 [TOC] 「忖度無く」 […]

続きを読む

2026年5月16日 4:43 PM  カテゴリー: AGI / ASI, AI, AI安全性/危険性, AI規制, Claude

超知能AI論争を読む:第9回-ChatGPTは超知能AI論争をどう見るか

今回は、これまで見てきたAIの将来に関わる楽観論から悲観論までを総合して、ChatGPT自身がどう考えるか?である。 そもそもチャッピーは、どちらにも与しないと私は見て意見を聞いた。 さてどうなったか [TOC] 「便利 […]

続きを読む

2026年5月16日 1:09 AM  カテゴリー: AGI / ASI, AI, AI安全性/危険性, AI規制, ChatGPT, 未分類

超知能AI論争を読む:第8回-超知能AI論争の地図

超知能AI論争の地図——6つの立場を比較する ここまで、超知能AIをめぐる大きな議論を順番に見てきた。 Bostromは、人間より賢いAIを人間は本当に制御できるのかと問い、Bio Anchorsはそこにタイムライン予測 […]

続きを読む

2026年5月14日 9:21 PM  カテゴリー: AGI / ASI, AI, AI安全性/危険性

超知能AI論争を読む:第7回-超知能AIを作れば人類は絶滅、するのか?

「超知能AIを作れば人類は絶滅する」。 この連載の発端は、Eliezer YudkowskyとNate Soaresの『If Anyone Builds It, Everyone Dies』、つまり日本語訳で言えば上記の […]

続きを読む

2026年5月14日 1:03 AM  カテゴリー: AI, AI安全性/危険性, AI規制

超知能AI論争を読む:第6回-AIすごい論への反論

AIは本当に「通常技術」なのか ここまでの連載では、AIをかなり大きな存在として扱ってきた。 Bostromは人間より賢いAIを制御できるのかと問い、Aschenbrennerはそれが国家安全保障を巻き込む問題だと論じ、 […]

続きを読む

2026年5月12日 9:43 PM  カテゴリー: AGI / ASI, AI, AI安全性/危険性

超知能AI論争を読む:AGIはいつ来るのか-第2回

Bio Anchorsと「タイムライン予測」の考え方 前回は、Nick Bostromの『Superintelligence』を手がかりに、超知能AI論争の出発点を整理した。 そこで中心にあった問いは、かなり単純だった。 […]

続きを読む

2026年5月8日 8:46 PM  カテゴリー: AI, AI安全性/危険性