ChatGPTの安全対策が強くなります。暴力にこだわる会話は自動で終わり、10代には武器の情報をさらに絞ります

📌 ChatGPTの暴力への対策が強くなる

何があった

OpenAIが10月30日、ChatGPTの暴力への対策を強めると発表しました。 この先、数週間のうちに順に始まります。

これまでも、ChatGPTは暴力の計画を手伝わないように作られていました。 今回は、その線をもう少し手前に引く、という話です。

何が変わる

今回変わること

すべての人

• 過去の大きな事件の、細かい再現には答えない
• 暴力の兆しがあった後は、答えを控えめに
• 暴力にこだわる会話は、自動で終わる

＋

18歳未満とみられる人

• 武器や防犯の実用的な情報を、さらに絞る
• 年齢の見きわめを、使いながら見直す

数週間のうちに、順に始まります

たとえば、過去の大きな事件について、使われた武器や手に入れ方を細かく聞いても、答えなくなります。 年齢や「研究のため」といった理由に関係なく、です。

一方で、事件を理解すること、被害にあった人や地域のこと、防ぐための兆しの見分け方は、これまでどおり聞けます。

試すなら

これは「新しい機能」ではないので、ふつうに使っている人が何かする必要はありません。 お子さんがChatGPTを使っている家なら、下の「親ができること」を見ておくと安心です。

出典：OpenAI「Community safety report and new protections for teens」（2026年10月30日）（2026年11月1日に確認）

🛑 会話が自動で終わるのは、どんなとき？

自動で終わるのは、だれかを傷つけることに、強くこだわっている兆しがあるときです。 その流れを、その場で断ち切るためだそうです。

会話が自動で終わるまで

1. ひとつずつは、ふつうの質問単独では問題のない質問でも
2. 前の会話に、暴力の兆しがあると悪用できそうな情報は、控えめに答える
3. 暴力に強くこだわっている兆しがあると会話が自動で終わる
4. 何度も終わるとアカウントが一時停止されることもある

専門家と相談しながら、見分け方を作っていくそうです

ポイントは、1つの質問だけでなく、前の会話の流れも見るところです。 それだけなら、ふつうの質問でも、前の会話しだいで意味が変わることがあるからです。

また、差し迫った暴力の危険があるときは、これまでも警察などに知らせてきたそうです。 2026年7〜9月の3か月で、200件を超えたと書かれていました。

こうした取り組みの報告書も、2027年の初めから半年ごとに出すそうです。

出典：OpenAI「Community safety report and new protections for teens」（2026年11月1日に確認）

🧒 10代には、武器の情報をさらに絞る

18歳未満の人には、これまでも大人より強い守りがかかっていました。 今回は、悪い意図が見えなくても、武器や防犯のしくみの実用的な情報を出さない方向に広げます。

10代の人が聞けること・聞けなくなること

これからも聞ける

• 暴力を防ぐ方法
• もめごとをおさめる方法
• 助けを求める先
• 信頼できる大人につながる方法

／

聞けなくなる

• 武器の、実際に使える細かい情報
• 防犯のしくみの、悪用できる細かい情報

一見、害のない質問でも絞られます

では、18歳未満かどうかは、どう見分けるのでしょうか。

ChatGPTは、使い方などのいくつかの手がかりから、18歳未満かどうかを推測しています。 今回、その推測を、使っている間もずっと見直すようにしたそうです。

出典：OpenAI「Community safety report and new protections for teens」（2026年11月1日に確認）

👪 親ができること

ChatGPTには、親のアカウントと子どものアカウントをつなぐ「保護者の管理（Parental controls）」があります。

• つなぎ方：親の「設定」から子どもを招待します。子どものほうから親を招待することもできます。
• 親に見えないもの：つないでも、子どもの会話の中身や履歴は、親からは見えません。
• 親に届くもの：深刻な心配があるとき（自分を傷つける心配など）に、知らせが届くことがあります。7月からは、暴力の決まりに反してアカウントが止められたときも知らせが届きます。

さらに、今回の「くり返して一時停止」になったときも、親に知らせる準備をしているそうです。

のぞき見ではなく、「何かあったときに知らせが来る」しくみ、と考えると分かりやすいと思います。

出典：OpenAI「Community safety report and new protections for teens」、OpenAI ヘルプセンター「Managing parental controls in ChatGPT」（いずれも2026年11月1日に確認）

💬 今日のひとこと

1つの質問ではなく「会話の流れ」を見る、というのは、AIならではの守り方だなと思いました。 人の相談員さんが、話の流れで様子の変化に気づくのと似ています。

一方で、まちがって止められることも、きっとあると思います。 どこまで正しく見分けられるのかは、来年の報告書を見てみたいところです。

子どもがAIを使う場面は、これからもっと増えると思います。 「何でも聞ける」道具だからこそ、こういう線引きがあるのは少し安心です。🛡️