近日，OpenAI发布了首份关于青少年使用ChatGPT的报告，令人关注的是，青少年用户每天平均使用时长竟不足15分钟！而那些连续使用超过3小时的用户比例更是低于2%。这份报告不仅揭示了青少年对人工智能聊天机器人的使用现状，同时也引发了关于安全机制的广泛讨论。
在AI平台的快速普及背景下，聊天机器人对青少年心理健康和成长安全的影响逐渐成为公众关注的焦点。OpenAI表示，在出现休息提醒的对话中，近一半的青少年用户选择在接下来的5分钟内暂停使用或结束聊天，这表明OpenAI的引导措施在一定程度上发挥了作用。
值得一提的是，OpenAI还计划推出更多面向青少年的功能，包括大学申请规划工具，帮助学生整理申请要求、截止日期及助学金申请步骤。此外，学习卡片和更便捷的测验制作工具也在开发之中，以提升青少年的学习体验。
然而，第三方机构CommonSenseMedia对OpenAI的家长安全提醒机制提出了质疑。该机构的报告指出，当青少年账号涉及自杀、自伤或进食障碍等敏感话题时，ChatGPT的青少年模式往往会延迟通知家长，甚至没有发出任何提醒。研究显示，这些测试是在十多个专门创建的测试账号上进行的，结果引发了对AI安全防护机制的深思。
OpenAI对此回应称，CommonSenseMedia的测试未能准确反映ChatGPT青少年安全机制的真实运行情况。发言人表示，由于安全和大规模服务运行的原因，家长与青少年账号的关联及相关安全提醒功能的生效，可能需要数小时。部分测试可能在家长控制功能完成激活之前便已开始并结束。
尽管OpenAI强调其安全机制的有效性，但CommonSenseMedia指出，部分测试账号的关联时间已经足够长，且所有测试账号均未收到及时的安全提醒。这一系列问题引发了社会对青少年使用AI工具的安全性的广泛讨论，特别是在涉及敏感话题时，如何确保青少年的心理健康和安全。
随着AI技术的不断发展，如何在提供便利的同时确保青少年的安全，将是未来亟待解决的重要课题。
