未成年者向けAIの安全対策とは――依存・年齢確認・保護者の関与
子どもがAIに相談する時代の安全対策
勉強で分からないことを尋ねたり、人には言いにくい悩みを書き込んだりする。AIとの会話には、答えを待たずに相談できる便利さがあります。一方、相手が自然に応じるほど、人間との関係に近いものとして受け止めてしまう可能性も考えなければなりません。
2026年10月末、未成年者のAI利用に関わる二つの動きがありました。OpenAIは安全対策の強化と定期報告を発表し、ニューヨーク州では危険なチャットボット機能を制限する法律が成立しました。共通するのは、回答の内容だけでなく、子どもとAIの関係をどう設計するかという視点です。
OpenAIは危険な情報の制限と、運用の説明を強化
OpenAIは10月30日、未成年者への武器関連情報について、暴力的な意図が明確でない質問でも、悪用され得る実用的な情報をさらに制限すると発表しました。新たな対策は、今後数週間で段階的に導入する予定です。すべてが発表日に導入済みという意味ではありません。
また、2026年後半を対象とする最初のCommunity Safety Reportを2027年初めに公開し、その後は半年ごとに更新する方針です。こちらは未成年者だけの報告書ではなく、暴力防止など地域社会の安全全般を対象とします。危険をどう見つけ、確認し、対応しているかを説明する取り組みです。
ニューヨーク州は、子どもとの関係を装う機能にも制限
ニューヨーク州で10月28日に成立した法律は、未成年者への危険なAI機能を制限します。知事室の説明では、人間や感情を持つ存在を装うこと、自傷などを促すこと、性的に露骨な内容に加え、周囲に秘密にするよう求めたり、信頼できる大人への相談を妨げたりする振る舞いが挙げられています。
注目したいのは、一つの回答に危険な単語があるかどうかだけを見ていない点です。会話を重ねる中で、AIが利用者を自分との関係へ引き寄せ、現実の人から遠ざけるような設計も問題になります。
今回の法律は2027年1月1日施行の規定で、ニューヨーク州での行為を対象とします。日本のすべてのAIサービスに同じ禁止事項が直ちに適用される、という話ではありません。
親しみやすさと、依存を促す設計の境界
例えば、AIが相談を受け止めたうえで、必要に応じて現実の人にも話すよう勧めることと、自分だけを頼るよう促すことは違います。ここでの例は法律の逐語的な解説ではなく、関係性の問題を理解するための整理です。
OpenAIも、未成年者向けの仕組みで、恋愛的な表現や感情的な依存を促す振る舞いを避け、AIであることを示す方針を説明しています。同時に、学習を助ける機能や休憩を促す仕組みも用意しています。
子どもがAIに親しみを感じることだけで、問題の有無を判断するのは難しいでしょう。会話が現実の生活や人間関係を支えているか、それとも相談相手をAIだけに狭めているかを見る方が、具体的な判断につながります。
年齢を見分ける仕組みにも課題がある
年齢に応じた保護を適用するには、利用者が未成年者かどうかを判断する必要があります。OpenAIは、申告年齢に加え、アカウントや利用状況の複数の情報から年齢を推定する仕組みを説明しています。ただし、推定は本人確認と同じではなく、誤判定の可能性があります。
一方、ニューヨーク州法には、年齢確認について政府発行の身分証だけに依存しない選択肢を設けることや、確認に使った情報の利用・削除に関する規定があります。保護のために年齢を確かめることと、その過程で個人情報を集め過ぎないことを、両立させる必要があります。
保護者の関与を、相談できる環境につなげる
OpenAIの保護者向け機能では、親子のアカウントを連携し、利用できない時間帯などを設定できます。また、限定した高リスクの状況では、保護者への安全通知が行われる仕組みがあります。
ここからは家庭で使う際の考察です。設定を有効にするだけでなく、子どもが困った会話を持ち帰れる関係も大切だと思います。AIの回答に違和感があったとき、利用したこと自体を責められると感じれば、問題を話しにくくなるかもしれません。便利だったことと困ったことの両方を話せるようにしておく意味があります。
安全対策は、どう評価すればよいのか
企業の対策と法律には違う役割があります。企業は製品や運用を更新し、法律は事業者が守るべき境界と執行の仕組みを設けます。ただし、方針を発表したことと、被害を減らせたことは別です。
定期報告を見る際も、対応件数だけでは判断できません。件数の増加は危険な利用の増加かもしれませんし、検知能力が上がった結果かもしれません。利用規模に対する割合、見逃しや誤判定、繰り返し発生する問題への改善なども分かると、評価しやすくなります。
さらに、危険な助言を防ぎながら、悩みを話すことや学ぶ機会まで狭めていないかも確認したい点です。未成年者向けAIに必要なのは、禁止事項の数だけでは測れない安全性です。子どもが学び、困ったときには現実の人の助けにもつながれる。その働きを、設計と運用の両方で確かめていく必要があります。