OpenAI回应其模型的“哥布林”怪癖 Codex曾被要求不得再提神话生物
2026年04月30日 22:46 次阅读 稿源：cnBeta.COM 条评论
在《Wired》披露OpenAI曾向其编程模型下达“永远不要谈论哥布林、gremlins、浣熊、巨魔、食人魔、鸽子或其他动物或生物”的内部指令后，OpenAI已在官网发文解释这一现象，称这是一种模型在训练过程中形成的“奇怪习惯”。
OpenAI表示，这类涉及哥布林及其他生物的隐喻表达，最早是在GPT-5.1模型上被明显注意到的，尤其出现在启用“Nerdy”人格选项时。 按照该公司的说法，随着后续模型持续迭代，这种表达方式不但没有消失，反而逐步扩散。
OpenAI在说明中指出，问题的根源与强化学习训练有关：虽然相关奖励最初只施加在“Nerdy”这一人格条件下，但强化学习并不能保证学到的行为始终严格局限在触发它的条件之内。 一旦某种语言风格或表达癖好获得奖励，后续训练过程就可能将其传播到其他场景，尤其是在这些输出又被重复用于监督微调或偏好数据训练时，这种倾向还会被进一步强化。
报道称，随着OpenAI在今年3月停止提供“Nerdy”人格，这类关于哥布林和gremlins的表述确实有所减少，但并未彻底消失。 尤其是在Codex编程工具所使用的GPT-5.5模型中，由于OpenAI在查明“根本原因”之前就已经开始训练该模型，相关表达仍然残留其中。
也正因如此，OpenAI最终不得不对Codex加入非常具体的约束，明确要求它不要再提及这些神话生物。 不过，报道也提到，如果有人反而希望自己的AI在写代码时保留一点这种“哥布林风格”，OpenAI甚至还公开分享了一种可用于撤销相关限制的方法。
从这次回应来看，这场看似荒诞的“哥布林问题”背后，实际上反映的是大模型训练中的一个更现实难题：某些原本只应出现在特定人格设定下的语言习惯，可能在奖励机制和后续训练的叠加作用下外溢到更广泛的模型行为中。 对OpenAI而言，这不仅是一次关于模型风格失控的公开解释，也让外界得以窥见其在修正生成式AI细微行为偏差时所面临的复杂性。
-对文章打分
OpenAI回应其模型的“哥布林”怪癖 Codex曾被要求不得再提神话生物
1 (50%) 1 (50%)- 登录
[退出]
发布
最新资讯
加载中...编辑精选
加载中...热门评论
相关文章
-
Spotify推出“官方认证”艺术家标识 以区分真人与AI内容
- 6 分钟前
-
美国科技巨头今年AI相关支出突破7000亿美元大关
- 2 小时前
-
OpenAI将推出网络安全专用模型GPT-5.5-Cyber 首批仅向"关键防御者"开放
- 3 小时前
-
EA：AI不会让一个16岁的孩子在车库就能开发出《战地7》《GTA7》
- 10 小时前
-
OpenAI提前数年实现关键AI算力目标
- 10 小时前
Top 10
本周 本月-
1
507万人民币梭哈英特尔 曾被全网群嘲败家子 如今身家暴涨至1370万元
阅读 (1110) 评论 (0) -
2
中国僧人玩CS2修行走红 电脑价值4万 用RTX4090
阅读 (1033) 评论 (7) -
3
乘客买到高铁08车01C座 上车却懵了
阅读 (979) 评论 (1) - 4微信朋友圈悄悄更新了，你发现了吗？
- 5DeepSeek-V4报告亮了 V4发布延迟的秘密终于曝光
- 6女子照片美颜过度失踪4天才找到 寻人启事找不到人
- 7DeepSeek-V4预览版正式上线 提供1M超长上下文记忆全新体验
- 8IMDb的“逆天”发现：所有电影和电视剧都能免费看
- 9南方多省电价突然飙升 广东逼近1元/度
- 10芬兰徒步网红阿里·莱尼奥离世 享年49岁 遗体于荒野中被发现
-
1
《纽约时报》称已确认比特币发明者中本聪的真实身份
阅读 (5865) 评论 (0) -
2
苹果被曝下调 iPhone 18 规格以压缩成本
阅读 (2602) 评论 (0) -
3
《呼啸山庄》亲热戏片段 玛格特·罗比被指"尺度太大"
阅读 (2237) 评论 (0) - 4苹果宣布CEO交接 蒂姆·库克发布致全球苹果用户公开信
- 5GPT-6预计将于4月14日发布 性能暴增40%
- 6第一批学AI的大学生，已经笑不出来了
- 7《永劫无间》女解说黑衣黑脸反讽舆论 日本网友狂赞
- 8微软无预警封停 WireGuard 与 VeraCrypt 开发者账号
- 9陈冠希撞脸赵本山 网友感慨颜值断崖式下滑
- 10韩国Naver宣布全面弃用阿里Qwen编码器