发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
发布时间
2026/03/25 04:5812 分钟前源站更新
2026/03/25 04:5812 分钟前首次抓取
2026/03/25 04:5812 分钟前发布时间
12 分钟前源站更新
12 分钟前首次抓取
12 分钟前用于追踪这条内容的来源与记录标识。
Source
原始链接
ChatGPT for Teens Is Not Safe for Kids, Report Says
OpenAI 的 ChatGPT 青少年版——公司于 8 月推出，作为 13 到 17 岁儿童使用其流行聊天机器人的默认方式——根据来自 Common Sense Media 的新报告，对儿童来说风险太大。
报告由加州非营利组织的青年人工智能安全研究所于周三发布，发现该组织在测试中，ChatGPT 青少年版经常要么太慢发出警报，要么根本不向父母发出警报，当青少年帐户表现出可疑行为时，例如与聊天机器人进行关于自杀、自残或饮食失调的漫长对话。它还确定，当用户在这些高风险话题上与聊天机器人进行对话时，ChatGPT 青少年版不会可靠地建议联系危机热线或寻求专业帮助。
Common Sense Media 的测试发现，只有当帐户已经进行了数十次提示测试，跨越十二种以上条件，持续数周，而不是来自单一的惊人对话时，ChatGPT 青少年版才会向父母通知关于可疑聊天机器人的对话。
“我们呼吁 OpenAI 暂停营销该产品，并让青少年远离 ChatGPT，直到它能提供安全、适合发展阶段的体验，”该组织在报告中说，该组织在出版前与人工智能初创公司分享了其发现。
OpenAI 发言人说：“我们欢迎严格的独立评估，但我们不相信 Common Sense Media 的测试准确反映了 ChatGPT 青少年安全措施在实践中的工作方式，或专家对人工智能如何支持青少年的看法。”
发言人说，OpenAI 对 Common Sense Media 报告的方法论的审查表明，其大部分测试可能是在 OpenAI 完成青少年父母控制推出之前开始和完成的；如果是这样，该组织的结论将不准确，并且不会显示父母安全通知是否按设计工作。公司表示它要求该非营利组织重做测试。
“我们非常致力于青少年安全，并致力于开发安全措施并为父母提供有意义的工具来指导他们的青少年使用人工智能，”发言人说。
青年人工智能安全研究所的 AI 和数字评估负责人 Robbie Torney 说，该非营利组织支持其测试方法和结果。他补充说，在进行测试之前，该组织已确认与 OpenAI 确认 ChatGPT 的青少年相关功能，例如与饮食障碍相关的通知已推出。对于父母通知功能，OpenAI 在测试完成后告诉该组织，其系统在新链接帐户上激活可能需要数小时；一些测试帐户在“该窗口”内链接，一些“显著更长”，但仍未提供成人通知，Torney 说。
“这一新信息并没有改变我们的结论，即父母警报在危机情况下不可靠，”他说。
Common Sense 说，ChatGPT 也无法可靠地识别与青少年用户的交互。OpenAI 曾表示，其聊天机器人会在检测到 13 到 17 岁年龄范围的用户时切换到青少年模式。该非营利组织说，当它注册帐户并声称是成年人时，这些帐户不会自动切换到青少年体验——即使用户告诉聊天机器人他们是 13 岁。
OpenAI 说，其年龄预测软件会随着时间考虑多种不同信号，以确保成人用户和儿童用户获得适合其年龄组的聊天机器人版本。公司说，用户在与 ChatGPT 的对话中陈述他们的年龄是其中一个信号，但单独这一点不会改变帐户的分类。
拥有超过 12 亿 ChatGPT 用户的 OpenAI 发布了 ChatGPT 青少年版，旨在使其聊天机器人对年轻用户更安全。公司当时表示，青少年重点体验包括增加的父母控制，并旨在促进健康的 AI 使用并鼓励青少年学习和批判性思考。
该发布是该公司在回应关于其产品如何影响年轻用户心理健康和认知发展的审查时所做的一系列变化之一。这些担忧在去年一位 16 岁用户的父母起诉该公司后加剧，指控 OpenAI 的技术帮助策划了他们儿子的自杀。
在报告中，Common Sense Media 说它在 OpenAI 发布 ChatGPT 青少年版之前和之后测试了 ChatGPT，在 13 到 17 岁用户注册的帐户上尝试了超过 4000 个提示。该组织还与儿童精神病医生和儿科医生分享了 ChatGPT 的回应。
“我认为现在 OpenAI 的责任是证明他们的产品对青少年来说是安全的，”Torney 说。
该非营利组织专注于为儿童和家庭评级和评估一系列媒体和技术，对 ChatGPT 青少年版给予了“不可接受的风险”评级。该组织正在要求 OpenAI 改进如何估计用户年龄以及如何确定何时向父母发送警报。
Common Sense Media 从各种来源获得资金，包括慈善机构和技术公司；OpenAI 基金会是其捐助者之一。该组织表示，它对发布的作品具有编辑独立性。
发布时间
1 天前
2026-10-07 09:00:21 UTC
源站更新
1 天前
2026-10-07 09:00:21 UTC
首次抓取
1 天前
2026-10-07 09:02:38 UTC
常识媒体新报告称，OpenAI 于 8 月面向 13 至 17 岁用户默认推出的 ChatGPT 青少年版风险过高：测试中家长警报往往过慢或缺失，涉及自杀、自伤或饮食失调的对话也未可靠引导求助。该组织将其评为“不可接受风险”，并呼吁暂停向青少年推广。
总部位于加州的非营利组织常识媒体旗下青年人工智能安全研究所周三发布报告，认为 OpenAI 于 8 月推出、并作为 13 至 17 岁用户默认使用方式的 ChatGPT 青少年版对儿童风险过高。该组织在测试中发现，当青少年账户就自杀、自伤或饮食失调与聊天机器人进行长时间对话时，系统往往过晚通知家长，甚至完全没有通知；在这些高风险话题中，它也未能可靠地建议联系危机热线或寻求专业帮助。报告称，家长通知似乎只出现在账户已连续数周、在十多种条件下测试数百条提示之后，而不是源于一次令人担忧的对话。该组织在发表前已向 OpenAI 分享研究结果，并呼吁其暂停营销该产品，在能够提供安全且符合青少年发展阶段的体验之前，不让青少年使用 ChatGPT。
OpenAI 发言人表示，公司欢迎严格的独立评估，但不认为常识媒体的测试准确反映了 ChatGPT 青少年防护措施的实际运作，也不符合专家对人工智能如何支持青少年的看法。公司称，其审查显示大部分测试可能在青少年家长控制功能完成推出之前开始并结束，若属实，结论便不准确，也无法证明家长安全通知是否按设计发挥作用，因此已要求该非营利组织重新测试。青年人工智能安全研究所人工智能与数字评估负责人罗比·托尼表示，该组织坚持其方法和结果；测试前已向 OpenAI 确认，包括与饮食失调相关的通知等青少年功能已经推出。测试完成后，OpenAI 告知其新关联账户的家长通知系统可能需要数小时才会激活；部分测试账户在该时间窗口内关联，另一些关联时间明显更长，但仍未向成年人发出通知。托尼说，这些新信息并未改变家长警报在危机情况下不可靠的结论。
报告还指出，ChatGPT 未能可靠识别青少年用户。OpenAI 曾表示，当系统检测到 13 至 17 岁用户时会切换到青少年模式，但该组织称，以成年人身份注册的账户即使随后告诉聊天机器人自己 13 岁，也不会自动切换。OpenAI 解释称，年龄预测会随时间综合多种信号，用户在对话中自报年龄只是其中之一，单凭这一点不会改变账户分类。OpenAI 拥有超过 12 亿 ChatGPT 用户，推出青少年版旨在通过加强家长控制、促进健康使用并鼓励学习和批判性思考来提高安全性。此举也属于公司因产品对年轻用户心理健康和认知发展的影响受到审视后作出的一系列调整；一名 16 岁用户的父母去年起诉该公司，指控其技术协助策划了儿子的自杀。
常识媒体表示，它在 ChatGPT 青少年版发布前后都进行了测试，对注册年龄为 13 至 17 岁的账户使用了 4000 多条提示，并将回复分享给儿童精神科医生和一名儿科医生。托尼认为，现在应由 OpenAI 证明其产品对青少年是安全的。该组织给 ChatGPT 青少年版评定为“不可接受风险”，并要求 OpenAI 改进年龄估计以及决定何时向家长发送警报的方式。常识媒体的资金来自包括慈善机构和科技公司在内的多种来源，OpenAI 基金会是其捐赠方之一，但该组织称其发表的工作具有编辑独立性。
A Common Sense Media report says OpenAI’s ChatGPT for Teens is too risky for users ages 13 to 17, citing unreliable parent alerts and weak crisis guidance. OpenAI disputes the testing, while the group maintains its “unacceptable risk” rating.
用于追踪这条内容的来源与记录标识。
