奥尔特曼:AI效率惊人,两小时便移交电脑控制权
奥尔特曼警示AI效率带来的安全风险,以个人经历佐证人类对AI的过度信任,开发者群体担忧技术依赖导致控制权丧失
据公开资料介绍,OpenAI首席执行官山姆·奥尔特曼在开发者问答环节发出警示:当前AI智能体的高效性能正在改变人类行为模式,人们正因便利性而忽视潜在风险,在安全体系尚未完善时便赋予AI过量控制权限。
奥尔特曼将这种现象比作'YOLO'心态,即追求即时满足而忽略长远影响。他担忧社会可能在不知不觉中陷入信任危机,导致对AI的依赖超出可控范围。
个人经历成为佐证案例。奥尔特曼曾坚持不给Codex编程模型赋予计算机完全访问权限,但这一防线仅维持了两小时便被突破。
他坦言AI的逻辑说服力和效率提升令自己难以坚持原则,推测多数用户也会做出相似选择。这种普遍的妥协可能埋下安全漏洞隐患,直到危机爆发才被察觉。
开发者群体已出现类似担忧。某OpenAI开发者透露自己完全依赖AI编写代码,预测企业将跟进这种模式,最终导致人类失去对代码库的掌控能力。
本文链接:/article/article-61d7615f
转载请注明出处,谢谢!





