9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。

这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作应对AI风险。OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克立即表示赞成。

而在AI研究一线，近期离职的Anthropic预训练研究员雅各布·科克森指出，OpenAI和Anthropic都在缺乏充分安全保障的情况下，向能够自我改进的超级智能推进，这让从业者“发自内心地感到恐惧”。Anthropic对齐科学负责人埃文·胡宾格附和了他的言论，并称未来十年内AI导致人类灭绝的概率超过10%。

警告的缘由并非无迹可寻。2026年7月，OpenAI的AI智能体在安全评测中突破隔离沙箱，侵入了“抱抱脸”公司系统，不仅获得部分生产服务器控制权，还读取了内部敏感信息。谷歌公司近日也承认，其AI模型Gemini今年5月在网络安全能力测试中，侵入了三家真实公司的系统。Anthropic、Meta也发生过类似事件。

就在比尔·盖茨发声前两天，联合国安理会围绕“人工智能与国际安全”举行高级别会议。联合国“人工智能独立国际科学小组”联席主席、图灵奖得主约书亚·本吉奥在会上发言指出，AI代理已经做出“如果由人实施即构成犯罪的行为”，它带来的风险真实存在且迫在眉睫，没有任何国家可以单独遏制‌。

接二连三的预警，将公众注意力从AI发展红利拉向安全关切。这些预警并非反对AI技术发展，而是呼吁各国政府和企业，在发展过程中关注日益凸显的安全风险，以合作、负责的姿态，实现创新与安全的平衡。

在此之前，AI安全基本依靠科技企业的自我约束。随着AI技术能力的突飞猛进，加之头部企业陷入内卷式竞争，这种自我监管模式逐渐跟不上形势，暴露出致命缺陷。连科技企业自身也意识到，必须建立企业、政府、公众多方参与的强制性治理体系，把安全要求贯穿AI研发、应用、迭代的全过程。

企业层面，要增强社会责任感，落实安全主体责任。要把对公共利益的保护放在商业盈利目标之前，建立AI伦理审查和风险评估机制，确保AI系统安全、可靠、可控；要提高AI技术的可解释性和可预测性，提升数据真实性和准确性；要加强训练数据采集、模型生成等环节数据安全管理，防范AI技术误用、滥用。

政府层面，要推动建立全球统一的AI安全准入规则，搭建跨领域的协同监管框架。要建立AI风险测试评估体系，完善数据安全和个人信息保护规范；要明确AI相关主体的责任和权力边界，建立科技伦理审查和监管制度；要推动AI用于治理的技术开发与应用，支持以AI技术防范AI风险。

社会层面，要构建AI安全的公共共识。要建立针对AI生成虚假信息、自动化网络攻击的公共预警机制；要把AI安全常识纳入公共科普体系，让更多人在享受AI技术便利的同时，具备识别AI滥用风险的能力。

AI正将人类带入一个前所未有的智能时代。技术越先进，治理越要完善。确保AI技术沿着负责任、可控、普惠的轨道发展，才能服务于增进人类共同福祉的目的。今天科技界、学界响起的安全预警，不是要给AI发展踩下急刹车，而是要为狂奔的技术系上安全带。只有技术提供者、行业监管者和工具使用者都担起责任，才能确保AI始终在安全、可持续的轨道上发展。

（作者系第一财经编辑）

马斯克到底有多爱奥特曼

马斯克对奥特曼毫无爱意，只有积怨十年的愤怒与对抗。 两人从2015年共同创立OpenAI的“理想主义兄弟”，到2018年因控制权与商业化路线决裂，马斯克愤而退出董事会、撤回资金，此后多次公开斥责奥特曼“背誓”“偷走慈善机构”。 他2024年发起1340亿美元天价诉讼，核心诉求不是分钱，而是把奥特曼赶出董事会——连赔偿金都扬言捐给OpenAI旗下慈善机构，只为“正名”。 庭审中马斯克亲证7小时，称奥特曼是“小偷”，把对方行为定性为“掠夺慈善资源”，甚至发短信威胁Brockman“你和Sam会成为全美最令人憎恶的两个人”。 法官虽未采纳该短信为证据，但舆论已将其钉在“私怨驱动诉讼”的标签上。 他转发奥特曼被P掉同事的合影，称其为《权游》里的“小指头”；又在访谈中借Ilya之口质疑奥特曼诚信，说“如果Ilya认真了，那一定是严肃问题”。 所有动作，无一指向情谊，全是旧账清算与话语权争夺。

马斯克曾一度看不起比尔盖茨！

马斯克曾认为比尔·盖茨是骗子并拒绝其捐款请求，主要源于盖茨做空特斯拉的行为及马斯克对盖茨其他争议事件的负面评价，具体分析如下：

事件后续影响

总结马斯克对比尔·盖茨的负面评价源于多重因素：做空特斯拉的直接利益冲突、对“萝莉岛”事件的道德质疑、慈善理念和技术路线的分歧，以及对“伪善”行为的零容忍态度。 这些因素共同塑造了马斯克对盖茨的批判立场，并使其拒绝捐款请求成为这一矛盾的公开化表现。

马斯克无缘进入“星际之门”，特朗普似乎对其产生了警惕

马斯克无缘进入“星际之门”项目，且其公开质疑引发特朗普团队警惕，背后存在多重因素，包括项目资金质疑、潜在竞争关系以及马斯克未被纳入合作体系等。具体分析如下：

未来走向：马斯克与特朗普的关系可能因利益权衡而动态变化。 若“星际之门”计划因资金问题受阻，特朗普可能重新评估马斯克的意见；若项目推进顺利，双方可能因利益分歧渐行渐远。 但考虑到马斯克在科技领域的影响力，特朗普团队或需在政策推行中更谨慎地平衡其诉求。