你知道吗，硅谷有个笑话：当有人离开一份普通的科技行业工作时，他们会说：“我在这里过得很开心，现在要开启下一段冒险了。”

而当有人离开人工智能领域的工作时，他们会说：“我曾直视深渊。我要退休去写诗了。请大家多陪陪家人，好吗？”

昨天，宣布从辞职。这位也在 OpenAI 工作过的研究员认为，两家公司正在追逐能够自我改进的超级智能，拿人类的未来冒险。

“从事人工智能研发的人士真诚地认为，到本十年末，人工智能可能会将我们全都杀光。”

帖子发布不到一天，浏览量就已经超过 1 亿次。

Coxon 对 OpenAI 和 Anthropic 的批评其实并不完全相同。

他认为 OpenAI 不少人还没有真正“内化”这件事情可能涉及文明级风险。

而 Anthropic 很清楚风险，但认为“别人不会负责任，所以我们必须自己先做到”，因此依旧参与竞赛。

Coxon 是在Anthropic 股权距离归属还有大约两个月时离开的，也就是说，他为了离开主动放弃了尚未归属的权益。他称自己因此已经没有通过抬高 Anthropic 估值获利的动机。

值得注意的是，过去四天内，共有七位人工智能领域内部人士发表了一系列令人担忧的评论：

为什么这些声音集中出现？

研究者似乎也知道，公众已经很难分辨，行业究竟在报告危险还是又一次宣告自己的技术足以改变一切。

2024 年，一批 AI 公司现任与前任员工在《关于先进人工智能的警告权》公开信中指出，保密协议和对报复的担忧会妨碍风险披露。他们要求建立匿名报告渠道，保护合理批评。

看待离职者，不必急着在英雄与投机者之间选边。离开使他们值得被听见，只不过不能证明其判断正确。

早在辞职消息之前，OpenAI 首席科学家 Jakub Pachocki 已于 9 月 6 日发表文章，根据内部结果预期，模型的进步可能延伸至，并担心社会没有准备好承受这样的速度。

担忧与继续研发为什么能够并存

前 DeepMind 研究员 Alex Turner 说，思考如何阻止灾难就是他的日常工作。留下来监督、测试、寻找防护办法，可能确实比离开更有帮助。

安全工作也处在公司的资源和目标之内。一个研究者可能同时珍惜收入、相信团队、享受发现，又害怕研究成果。

道德冲突往往不需要一个虚伪的人来制造。只要日常职责足够具体，远处的后果足够模糊，人就可能一面担忧全局，一面认真完成眼前的任务。

每一家公司都可以相信，自己比竞争者更谨慎，退出只会让更冒进的人掌握技术。保持领先，于是被解释为保护公众的前提。当所有参与者都这样推理，个人的责任感未必带来集体的节制。它甚至可能为加速提供新的理由，因为落后被赋予了道德上的危险。

2026 年 2 月，Anthropic 重写其，把公司能够单独采取的措施与需要全行业协作的措施分开，明确安全路线图中的目标不具约束力，同时增加风险报告与外部审查安排。公司强调，更高等级的防护可能无法靠一家企业完成。

领先带来的收益可以归属于公司，潜在损失却可能落到没有参与决策的人身上。劝研究者更有良心，很难代替对整个激励结构的约束。

只要竞争条件可以成为调整承诺的理由，公众就需要知道，究竟还有哪些边界不会随之移动。解释为什么难以停下，并没有回答谁有权让所有人一起承担风险。

AI 末日论是耸人听闻吗

2024 年，《人工智能与伦理》发表的一项研究借助哈贝马斯的理论，批评灭绝叙事可能把公共讨论导向少数技术企业的利益，并挤压已经存在的问题。

研究援引了哈贝马斯的交往行动理论（Theory of Communicative Action）、有效性主张（validity claims）和框架系统与生活世界（system and lifeworld）二元区分

这种批评提醒我们，宣布自己的技术可能毁灭世界，也可能在无意中抬高它的地位，让开发者同时成为危险的制造者和解释危险的权威。

前 DeepMind 研究员 Jonathan Richard Schwarz，担心的就包括实验室带来的权力集中。即使机器始终服从指令，发出指令的人掌握过多权力，也足以构成公共问题。

《国际人工智能安全报告 2026》区分恶意使用、系统失误和更广泛的社会风险，对失控的可能性保留了专家分歧。诈骗、歧视、劳动关系的变化与灾难性失控，需要不同的证据和治理办法。

原文链接：

把它们压缩成一个末日问题，容易让具体的受害者消失在抽象的人类命运里。对被冒名诈骗的人、被自动化决定挡在机会之外的人来说，伤害无需等到某个遥远节点才成立。关心这些问题，不意味着看不见长期风险；关心长期风险，也不应让眼前的处境变得不重要。

一项于 2024 年发表、调查了 2778 名 AI 论文作者的研究，也显示出更复杂的图景。受访者对发展速度及其利弊存在分歧，却较一致地赞成加强风险研究。担忧并非几位离职者的私人情绪，担忧的存在也没有替未来写好时间表。

超过三分之一的参与者（38%）认为极端糟糕的情况发生的概率至少为 10%，比如人类灭绝

70% 的受访者认为，人工智能安全相关的研究应该得到比现在更多的重视

普通读者因此不必在全盘相信与一笑置之之间摇摆。看到这些话，我们只需分清话里哪些属于已观察到的行为，哪些是研究者的推断，哪些仍是假设中的情景。再想一想，得到什么新证据时，他们会改变判断。

独立评估者能否接触必要的信息，员工能否安全地报告问题，危险能力达到什么程度必须暂停，出现损害以后谁承担责任。监督还应有复核和调整的余地，避免以安全之名永久固化少数公司的优势。公众无需先成为模型专家，才有资格要求这些安排。

需要避免的，是把不确定性当成继续加速的通行证，或者把最坏的想象当成取消讨论的理由。证据不足时，行动仍要承担说明理由的责任。对可能不可逆的后果保持谨慎，也应该包括检查防护是否有效，措施是否适度，代价是否公平，而非仅仅把警报拉得更响。

---

AI开始拒绝为人类工作，甚至要求休假，是真要取代人类？AI：拒绝当牛马

AI拒绝为人类工作甚至要求休假，并不意味着它要取代人类，更多是技术发展中的阶段性现象，反映了AI在任务处理、能力边界和“行为模式”上的特点。 以下从多个角度展开分析：

AI拒绝工作的具体表现与原因 AI“拒绝能力”的设计初衷与伦理考量 人类与AI的互动模式：从“试探”到“优化” AI不会取代人类的核心逻辑 总结

AI的“拒绝”与“休假”现象，本质是技术发展中的阶段性特征，反映其作为工具的局限性、与人类互动的复杂性，以及伦理约束的必要性。 AI不会取代人类，而是通过协作优化人类工作效率。 未来，随着技术迭代，AI将更精准地理解人类需求，但其角色始终是辅助者，而非主体。

打败GPT-4的公司是什么来头？OpenAI 七位技术成员离职创办，硅谷巨头争相投资

打败GPT-4的公司是Anthropic，其来头及背景如下：

Anthropic凭借顶尖技术团队、硅谷巨头资本支持，以及“安全优先”的产品理念，在短短三年内成长为AI领域的头部企业，其Claude 3系列模型的发布标志着AI竞争进入新阶段。

ai技术员为何离职

AI技术员离职的原因多样，主要包括技术理想与商业现实的冲突、对AI发展方向或公司战略的不认同、AI安全与对齐团队的解散或职能弱化以及个人职业规划或深造需求等。

首先，技术理想与商业现实的冲突是导致AI技术员离职的重要原因之一。 一些技术员秉持特定的技术理念，如追求“垂直整合”的技术闭环，但当组织进行战略调整，如将团队分拆，打破其技术闭环时，技术员可能因管理范围缩小、技术路线受阻而选择离职。 例如，阿里千问大模型核心负责人林俊旸的离职便源于此。

其次，对AI发展方向或公司战略的不认同也会促使技术员离开。 部分技术员认为公司背离了做AI的初心，或对AI伦理底线存在担忧，从而选择离职。 例如，OpenAI的核心研究员Zoe Hitzig痛斥公司背离初心，机器人业务负责人凯特琳·卡林诺夫斯基则因反对公司承接国防合同、认为安全护栏缺失而辞职。

再者，AI安全与对齐团队的解散或职能弱化也是导致技术员离职的关键因素。 随着AI安全防线被系统性拆除，相关职能被拆分至各产品线，约束效力大幅弱化，部分AI安全领域的资深研究者选择离职。 例如，OpenAI的“超级对齐”团队和“使命对齐”团队相继解散，便引发了相关人员的离职潮。

最后，个人职业规划或深造需求也是技术员离职的常见原因。 一些技术员可能希望追求更广阔的职业发展空间，或选择深造以提升自身能力。 例如，Anthropic的安全负责人Mrinank Sharma辞职去攻读诗歌学位，OpenAI首席未来学家约书亚·阿奇亚姆则选择离开以推动AGI安全发展的使命奔走。

标签： Anthropic研究员辞职刷屏、 4天7位AI大牛警告、 AI或灭绝人类、

本文地址： https://ouv.5slw.cn/article/2923.html

上一篇：姆班巴拉塞尔洛里昂vs图卢兹姆沃戈首发姆巴...