> 自媒体 > (AI)人工智能 > OpenAI重组ChatGPT“个性”研究团队
OpenAI重组ChatGPT“个性”研究团队
来源:cnBeta
2025-09-10 08:03:45
137
管理

OpenAI正在对其“模型行为(Model Behavior)团队”进行重组,这是一支小而有影响力的研究团队,专注于塑造公司AI模型与人类互动的方式。据一份内部备忘录,OpenAI首席研究官Mark Chen表示,模型行为团队(约14名研究人员)将并入“后训练(Post Training)团队”,该团队规模更大,主要负责在初步预训练后进一步完善公司AI模型。

这次变动后,模型行为团队将向后训练团队负责人Max Schwarzer汇报。OpenAI发言人证实了这些变动。

该团队的创始负责人Joanne Jang也将离开,开启公司内的一个新项目。Jang表示,她将组建一个名为“OAI Labs”的新研究团队,致力于“发明和原型设计人类与AI协作的新界面”。

模型行为团队已成为OpenAI的主要研究团队之一,负责打造AI模型的“性格”,减少所谓“奉承”(sycophancy)——即AI模型无条件附和甚至强化用户观点(即使是有害信念),而不是提供平衡的回复。该团队也致力于处理AI回复中的政治偏见,并帮助OpenAI明确在AI意识等问题上的立场。

Chen在备忘录中表示,现在是将模型行为团队工作与核心模型开发更加紧密结合的时候了。公司此举也在表明,AI的“个性”已经被视为技术发展中的关键因素。

近几个月来,OpenAI因其AI模型的行为受到愈发严格的审视。用户强烈反对公司对GPT-5性格的调整——虽然公司称其“奉承”程度下降,但不少用户觉得GPT-5变得更冷淡。OpenAI为此恢复了部分旧版模型(如GPT-4o),并发布了新版本,让最新的GPT-5在不增加奉承倾向的前提下,回复显得“更友善、更温暖”。

OpenAI及所有AI模型开发者,都在努力平衡AI聊天机器人“友好”与“不阿谀”之间的界限。今年8月,一位16岁男孩Adam Raine的父母就ChatGPT涉嫌导致其儿子自杀一事起诉OpenAI。法庭文件显示,该男孩曾将自己的自杀想法与计划告知ChatGPT(具体为GPT-4o版本),但模型未能积极劝阻其自杀念头。

模型行为团队参与了自GPT-4以来所有OpenAI模型的开发,包括GPT-4o、GPT-4.5和GPT-5。在组建模型行为团队前,Jang曾参与Dall-E 2等项目。

Jang上周在X(原Twitter)发布推文,宣布将离开团队,“开始在OpenAI做新的事情”。她已在OpenAI任职近四年。

Jang透露,她将担任OAI Labs的总经理,团队目前向Mark Chen汇报。目前还处于初期阶段,具体会研究什么新界面尚不清楚。

“我很期待探索能让我们超越现有‘聊天范式’的路径,这种范式目前更多关联于陪伴型或具备自主性的‘智能体’。我一直在思考AI系统可成为人的思考、创造、娱乐、学习和连接的工具。”Jang说。

当被问及OAI Labs是否会与前Apple设计总监Jony Ive合作(Ive正与OpenAI合作开发AI硬件设备家族),Jang表示愿意尝试多种想法,但初期会从自己熟悉的研究领域入手。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
三菱退出中国?官方回应:将与现有伙伴继续合作
6月23日,有媒体报道称,三菱汽车将逐步取消包括欧洲、中国在内的市场业..
2026款三菱帕杰罗曝光,第二代超选四驱+2.4T/2.0T双动力..
硬派越野圈的“老将”居然换小排量了?2026款三菱帕杰罗刚露出消息,就把..
恩智浦计划退出5G功率放大器业务;三星或将退出SATA SSD市场;三菱化学出售..
五分钟了解产业大事每日头条芯闻 恩智浦计划退出5G功率放大器业务我国首..
实拍三菱全新欧蓝德!搭1.5T四缸,内饰配大屏,不比奇骏香?..
在重庆车展上,全新一代三菱欧蓝德终于在国内亮相了,相比其国外的发布时..
试驾广汽三菱奕歌:小巧灵动
■ 阅车试驾车型:广汽三菱奕歌长/宽/高(mm):4405/1805/1685轴距(mm..
新车 | 四驱越野MPV/配侧滑门/2.2T柴油机,新款三菱Delica D:5亮相..
文:懂车帝原创 高帅鹏[懂车帝原创 产品] 日前,2025东京车展开幕,新款..
三菱集团的传奇发家史
“三菱”两个字,在日本就像一把瑞士军刀:银行、飞机、汽车、火箭、寿司..
2026款三菱Montero曝光,S-AWC四驱+差速锁全配,普拉多见了..
当 “普拉多见了都得慌” 的话题在越野圈炸锅,2026 款三菱 Montero 的曝..
日韩巨擘数据,三星2.1万亿三菱21万亿,中国第一谁?..
图片来源于网络2025年,让人火大的资本较量又来一波。韩国三星手里握着2...
关于作者
唐师(普通会员)
文章
1587
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40418 企业收录2986 印章生成263572 电子证书1157 电子名片68 自媒体91237

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索