IT 时代网讯:OpenAI 持续致力于提升 ChatGPT 的实用性,鉴于人们在困境中常依赖它,故不断改进模型,以更好识别和回应精神与情感困扰迹象,并遵循专家意见。目前相关工作已开展,现提前预览未来 120 天计划。

上周,OpenAI 分享了四大重点领域,旨在帮助最需帮助的人群,包括扩大对危机人群干预措施、方便拨打紧急服务与获取专家帮助、建立与信任联系人连接、加强青少年保护。部分工作推进迅速,部分则需更多时间。
今日,OpenAI 详述了与专家合作、利用推理模型处理敏感时刻及加强青少年保护等方面内容。
与专家合作:人工智能尚新且不断发展,OpenAI 借助福祉与人工智能专家委员会及全球医生网络指导工作。前者今年初召集,成员来自青年发展、心理健康等人机交互领域,为人工智能支持人类福祉制定愿景,指导定义衡量幸福、设定优先级及设计保障措施;后者由超 250 名在 60 个国家执业的医生组成,90 多位来自 30 个国家的医生已参与心理健康相关研究,OpenAI 还在扩充网络。利用推理模型应对敏感时刻:OpenAI 的推理模型如 GPT - 5 thinking 和 o3,经审慎对齐方法训练,能更遵循安全指南、抵抗对抗性提示。近期推出实时路由器,不久后将把检测到急性压力迹象的敏感对话路由至推理模型,以提供更有益回应。加强对青少年的保护:不少青少年已在使用人工智能,OpenAI 为此加强家长控制。未来一个月内,家长可通过简单邮件邀请关联 13 岁及以上青少年账户,通过年龄适配规则控制 ChatGPT 对青少年的回应,管理禁用功能,在系统检测到青少年急性困扰时接收通知。这些控制措施是为所有用户推出功能的一部分,如长时间会话提醒休息。OpenAI 将在专家指导下持续完善,期待未来 120 天分享进展。本文为 AI 大模型生成,如有错漏,请与我们联系,更多资讯,请关注 IT 时代网!
相关文章









猜你喜欢
成员 网址收录40418 企业收录2986 印章生成263572 电子证书1157 电子名片68 自媒体91237