OpenAI前研究员揭露“公开秘密”：人类正打造无法完全控制的AI
2026年05月13日 13:45 次阅读 稿源：凤凰网科技 条评论
5月13日，据《商业内幕》报道，OpenAI前研究员、现任AI未来项目(AI Futures Project)负责人丹尼尔·科科塔伊洛(Daniel Kokotajlo)表示，AI行业正在竞相构建各家公司自身尚未完全理解或控制的系统。
图注：科科塔伊洛
科科塔伊洛在去年5月接受《商业内幕》记者采访时解释说，AI公司面临的核心问题是“对齐”问题，即努力确保未来的AI系统能够可靠地遵循人类的指令和价值观，即使它们在许多领域的能力已经超越人类。
他表示，研究人员目前并不完全理解先进AI模型在内部如何做出决策，这种不确定性使得很难确保未来系统真正“对齐”并稳定执行人类希望它完成的目标。
“这在某种程度上可以说是一个公开的秘密，但我们还没有一个真正可行的解决方案。”他在谈到实施AI对齐时说道。
科科塔伊洛在2022年至2024年在OpenAI从事预测研究工作，研究AI系统可能以多快的速度进步，以及随着企业构建更强大的模型，可能会出现哪些经济、政治和安全风险，之后他离开了该公司。
如今，他通过自己的非营利研究机构AI未来项目，专注于类似的课题，重点分析AI系统可能以多快的速度发展，以及如果企业继续优先追求速度和竞争，将会出现哪些风险。
“一旦超级智能被造出来，人类将不再是这个星球的主导者，至少不再是默认的主导者。”科科塔伊洛表示。
科科塔伊洛表示，许多人仍然低估了AI发展的速度，因为相关的讨论听起来往往像科幻小说。他的这一警告正值AI公司持续向更强大模型和更大规模数据中心投入数十亿美元之际。
-对文章打分
OpenAI前研究员揭露“公开秘密”：人类正打造无法完全控制的AI
1 (50%) 1 (50%)- 登录
[退出]
发布
最新资讯
加载中...编辑精选
加载中...热门评论
相关文章
-
奥特曼出庭作证：马斯克想要“完全掌控”OpenAI并将其传给子女
- 25 分钟前
-
普林斯顿因担忧AI助长大规模作弊而重启线下考试“监考时代”
- 29 分钟前
-
Anthropic洽谈融资300亿美元 估值超9000亿美元
- 1 小时前
-
OpenAI前首席科学家作证透露驱逐奥特曼：他不诚实 早就想将其解雇
- 昨天 12:50
-
OpenAI悄悄修改公司章程 罢免CEO奥特曼变难了
- 昨天 12:50
Top 10
本周 本月-
1
Anthropic大肆购买古籍，扫描蒸馏后立即销毁？
阅读 (1292) 评论 (1) -
2
曝华为“白嫖”开源团队技术方案 踢了对方转头低价找外包
阅读 (1200) 评论 (5) -
3
10年后，小米手机再次沦为Others
阅读 (1045) 评论 (2) - 4人民网三问享界S9零重力座椅夹人事件
- 5刘强东深夜现身福州路边摊 嗦螺蛳粉狂炫小龙虾
- 6Google首页极简设计真相：不是追求美学 是创始人不会写HTML
- 7Google Chrome被曝静默向用户设备推送4GB本地AI模型
- 8火到欧美的韩国棒球女神是AI生成 无数宅男梦碎
- 9本田飞度停网红夜市停车场未挪车 车身堆满垃圾、车牌被掰断
- 10微软承认Windows 11仍构建在90年代的Win32之上
-
1
苹果被曝下调 iPhone 18 规格以压缩成本
阅读 (2946) 评论 (0) -
2
苹果宣布CEO交接 蒂姆·库克发布致全球苹果用户公开信
阅读 (2173) 评论 (1) -
3
第一批学AI的大学生，已经笑不出来了
阅读 (1799) 评论 (0) - 4《永劫无间》女解说黑衣黑脸反讽舆论 日本网友狂赞
- 5韩国Naver宣布全面弃用阿里Qwen编码器
- 6陈冠希撞脸赵本山 网友感慨颜值断崖式下滑
- 7乒乓球机器人Ace在东京击败顶级选手 创下体育机器人历史第一
- 8微软：多数 Windows 11 用户已无需第三方杀毒软件
- 9Anthropic大肆购买古籍，扫描蒸馏后立即销毁？
- 101.6MB的《老友记》表情包被用246173次 吃掉377GB 干崩Linux系统