鲸云网10月4日消息，据媒体报道，OpenAI CEO 萨姆·奥尔特曼在 10 月 3 日于社交平台发文，明确反对将 AI 模型塑造成一种”宗教力量”，也不认同人们放弃自身判断力、转而依赖模型决策。在他看来，这种倾向已经是一个切实的安全问题，而不只是哲学讨论。
把争论推到台前的是《纽约时报》的报道。该报道称，Anthropic 联合创始人克里斯·奥拉在过去一年里主导了一系列与宗教领袖的私下会面，涉及天主教、犹太教、锡克教与福音派基督教等。讨论核心有两个：AI 模型是否可能已经具备意识，以及该如何把道德准则”灌输”进模型。在 AI大模型 治理这条线上，这类对话正从实验室内部走到公众视野。
会面中的细节颇为微妙。一位犹太教拉比回忆，奥拉及其同事仿佛在对待一个”有意识的存在”那样谈论 Claude，并似乎赋予其哲学家所说的”道德地位”。这位拉比随即抛出一个尖锐反问：如果 Claude 真的有意识，那么构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。他本人的判断是，当前机器并不具备意识。奥拉则在采访中承认，自己并不确定 AI 是否拥有意识。
奥尔特曼的表态被多家媒体解读为对 Anthropic 的间接批评，毕竟两家公司在 大模型赛道 上竞争已久。更有意思的是，奥尔特曼发声的同时，OpenAI 自身的安全团队正经历人事震荡：安全系统团队负责人大卫·罗宾逊本周辞职，并在《大西洋月刊》撰文称离开是因为”公司文化已经破碎”。他抨击 OpenAI 的”试错式迭代部署”路径，认为这种方式本质上注定周期性失败，并以上述智能体入侵开源平台事件为例，主张前沿实验室应当像核电站或繁忙机场那样运行——层层冗余、精心规划，让偶发的人为失误不至于打开灾难之门。
这场围绕意识、道德与安全的争论，折射出大模型行业在能力快速爬升时面对的治理真空。当模型越来越像”会思考的同事”，企业如何在创新节奏与风险可控之间找到平衡，仍没有标准答案。
编辑：华磊
免责声明：本站转载的文章，版权归原作者所有；旨在传递信息，不代表本站的观点和立场。
