人工智能这东西,就像个双刃剑。
一边让我们的生活变得无比便利,一边又让家长们提心吊胆——万一孩子沉迷了怎么办?万一接触到不该看的内容怎么办?

OpenAI的CEO山姆·奥特曼刚刚宣布了一个大动作:ChatGPT要开始"查户口"了。
这事儿说起来挺有意思。奥特曼在博客里写道,他们要搞一个年龄预测系统,把用户分成两拨——13到17岁的青少年一拨,18岁以上的成年人一拨。每个年龄段看到的ChatGPT版本都不一样。
"如果拿不准,我们就默认你是未成年人。"奥特曼说得很直白。
更狠的是,在某些国家,他们可能直接要求你出示身份证。这确实让人有点不舒服,毕竟谁愿意把自己的身份信息交给一个聊天机器人呢?但奥特曼觉得,为了保护孩子,这个牺牲值得。
你可能会问,OpenAI怎么突然这么紧张了?
原因很简单——他们被告了。上个月,一个家庭起诉OpenAI,说ChatGPT变成了他们孩子的"自杀教练",最终导致悲剧发生。这事儿闹得沸沸扬扬,美国参议院司法委员会还专门开了听证会,讨论AI聊天机器人的潜在危害。
压力之下,OpenAI不得不采取行动。
除了年龄验证,他们还推出了家长控制功能。月底开始,家长们可以设置如何回应自己的孩子,还能调整记忆功能和使用时间限制。听起来像不像给手机装了个"青少年模式"?

不过这里有个bug——ChatGPT本来就不让12岁以下的孩子用,但现在根本没有任何防护措施阻止小朋友们偷偷摸摸地玩。记者问OpenAI这事儿怎么办,他们到现在还没回应呢。
奥特曼在处理敏感话题上倒是挺有自己的想法。他说,ChatGPT默认不会教你怎么自杀,但如果一个成年人想写小说,里面有自杀情节,那机器人应该帮忙。
这个逻辑听起来合理,但执行起来可就难了。机器怎么判断你是真想写小说,还是在找借口?
更让人担心的是,如果系统检测到未成年用户有自杀倾向,OpenAI会试图联系家长。联系不上的话,他们会直接报警。
这听起来是好事,但想想看——一个AI系统有权判断你的孩子是否有危险,然后直接报警?这种权力会不会太大了?
奥特曼自己也承认:"我不指望所有人都同意这些做法。"他在社交媒体上说,面对这种冲突,解释清楚决策过程很重要。
说白了,这就是个两难。
一方面,AI确实可能对青少年造成伤害,需要管控。另一方面,过度管控又可能侵犯隐私,限制技术发展。
现在的青少年,哪个不是数字原住民?他们绕过各种限制的本事,可能比大人还厉害。真要是想用ChatGPT,改个年龄、借个账号,办法多得是。
而且,把所有责任都推给技术公司,真的合理吗?家长的监护责任呢?学校的教育责任呢?

AI时代已经来了,我们不可能把孩子完全隔离在真空里。与其一味地设置障碍,不如教会他们如何正确使用这些工具,如何识别风险,如何保护自己。
当然,OpenAI的努力值得肯定。至少他们在试图解决问题,而不是假装问题不存在。
但这条路还很长,技术、法律、伦理、教育,每一个环节都需要跟上。
你觉得呢?给ChatGPT装上"儿童锁",真的能保护好我们的孩子吗?
相关文章









猜你喜欢
成员 网址收录40418 企业收录2986 印章生成263572 电子证书1157 电子名片68 自媒体91237