Blog ～ f-mignon代表による、できれば役立って欲しい情報ブログ

これまでの記事を読ませて、Claudeにも訊いてみた。Claudeは比較的こちらに忖度しない。ただ忖度無くと言ったことを向こうは、Anthropicに忖度無くと受け取ったらしい。少し面白かった。 [TOC] 「忖度無く」 […]

今回は、これまで見てきたAIの将来に関わる楽観論から悲観論までを総合して、ChatGPT自身がどう考えるか?である。 そもそもチャッピーは、どちらにも与しないと私は見て意見を聞いた。 さてどうなったか [TOC] 「便利 […]

超知能AI論争の地図——6つの立場を比較する ここまで、超知能AIをめぐる大きな議論を順番に見てきた。 Bostromは、人間より賢いAIを人間は本当に制御できるのかと問い、Bio Anchorsはそこにタイムライン予測 […]

「超知能AIを作れば人類は絶滅する」。 この連載の発端は、Eliezer YudkowskyとNate Soaresの『If Anyone Builds It, Everyone Dies』、つまり日本語訳で言えば上記の […]

AIは本当に「通常技術」なのか ここまでの連載では、AIをかなり大きな存在として扱ってきた。 Bostromは人間より賢いAIを制御できるのかと問い、Aschenbrennerはそれが国家安全保障を巻き込む問題だと論じ、 […]

AIがAI研究を始めると何が起きるのか 第3回では、Leopold Aschenbrennerの “Situational Awareness” を読んだ。AIがチャットボットとか便利ツールの話で […]

OpenAIは、ChatGPTで成人向けの任意安全機能「Trusted Contact」を段階的に提供開始しました。 深刻な自殺リスクが疑われる会話では、自動検知と訓練を受けた人間のレビューを経て、登録済みの信頼できる相 […]

AIは国家と産業の問題になる 第1回では、ボストロム『Superintelligence』を手がかりに、超知能AI論争の出発点を見た。そこにあった問いは、「人間より賢いAIを、人間は本当に制御できるのか」だった。 第2回 […]

Bio Anchorsと「タイムライン予測」の考え方 前回は、Nick Bostromの『Superintelligence』を手がかりに、超知能AI論争の出発点を整理した。 そこで中心にあった問いは、かなり単純だった。 […]

超知能AI論争はどこから始まったのか：ボストロム『Superintelligence』を読む 「超知能AIを作れば、人類は絶滅する」 最近、そんな強い主張を掲げた本を読んでいる。Eliezer YudkowskyとNat […]