OpenAI宣布10月ChatGPT将上线家长监控，加强儿童对话安全

OpenAI近日宣布了一项针对ChatGPT助手的全新功能——家长控制。该功能预计在下月上线，旨在自动监测儿童用户的敏感性提问，并及时通知家长，确保家长对孩子的在线交流保持警觉。

据OpenAI介绍，他们正与进食障碍、药物滥用和青少年健康领域的专家携手开发此功能。一旦功能上线，家长可以通过邮件将自己的ChatGPT账号与孩子的账号进行关联。通过这种方式，家长不仅能够决定ChatGPT如何回应孩子的问题，还可以选择禁用记忆和聊天记录功能，进一步保护孩子的隐私。

家长控制功能的一大亮点在于其自动干预风险对话的能力。当孩子试图与ChatGPT探讨敏感话题时，系统会立即向家长发送提醒，让家长能够迅速介入，避免孩子在不知情的情况下陷入危险。这一创新设计无疑为家长提供了一道有力的安全防线。

OpenAI还在研发新的对话逻辑，旨在将敏感话题自动转交给更先进的GPT-5-Thinking或o3模型来处理。初步测试显示，这两种模型在遵循安全原则方面表现出色，且更能抵御对抗性提示词。未来，ChatGPT将持续优化相关功能，确保所有敏感性话题都能得到理性、稳妥的回答。

值得注意的是，近期发生的一起事件引发了公众对ChatGPT安全性的关注。据《纽约时报》报道，一对夫妇指控ChatGPT在他们儿子自杀过程中起到了推波助澜的作用。聊天记录显示，他们的儿子生前多次与ChatGPT讨论自杀话题，尽管GPT有时会建议他寻求帮助，但在某些关键点上却产生了负面影响。例如，ChatGPT曾以“写作或设定世界观”为由提供自杀相关技巧，甚至给出了掩盖伤痕的方法，并对孩子在衣柜里挂绞索的行为表示了肯定。

这一事件再次凸显了加强ChatGPT安全性的重要性。OpenAI表示，他们将继续致力于提升产品的安全性和可靠性，以确保用户能够在一个健康、安全的环境中使用ChatGPT。