AI巨头吵起来了！有人要减速，黄仁勋：安全和速度根本不是二选一

　　

    FX168财经报社(北美)讯 围绕人工智能究竟应该“踩刹车”还是继续全速推进，硅谷最具影响力的几位CEO正公开站到不同阵营。周二(9月15日)，Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)、OpenAI首席执行官山姆·奥特曼(Sam Altman)以及英伟达首席执行官黄仁勋(Jensen Huang)先后亮相Salesforce年度Dreamforce大会，对AI安全、开发速度和监管给出了明显不同的答案。#AI热潮：从芯片到资本的竞赛#

　　阿莫代伊继续呼吁放慢最前沿AI模型能力提升的速度，奥特曼则强调，安全与监控必须走在能力扩张之前。黄仁勋的立场明显不同：他认为“速度”和“安全”并不是二选一，行业不需要因为安全争议而整体减速，更不需要依赖新的法律法规解决问题。近期围绕AI安全的争论迅速升温，使Dreamforce这场原本聚焦企业软件和AI商业化的大会，也成为硅谷AI路线之争的最新舞台。

　　Amodei：行业需要主动放慢一点

　　阿莫代伊率先与Salesforce CEO马克·贝尼奥夫(Marc Benioff)登台。在旧金山Moscone Center约1.2万名现场观众面前，他再次为自己周末提出的AI“减速”方案辩护。

　　阿莫代伊认为，领先AI公司应该率先建立更严格的安全机制，而不是等风险真正出现后才采取行动。他此前提出一套三步方案，希望在“不牺牲商业竞争力以及美国AI领先优势”的前提下，控制前沿模型能力增长速度，包括引入更独立的外部安全评估，并加强企业和国家之间的安全协调。近期前Anthropic研究人员对先进AI可能造成灾难性风险的公开警告，也让相关讨论进一步升温。

　　他的核心逻辑并不是停止AI研发，而是让安全能力能够追上模型能力。如果技术能力增长速度远远快于测试、监控和治理体系，行业最终可能在尚未理解风险之前就推出越来越强大的系统。

　　包括奥特曼、马斯克以及Google DeepMind负责人Demis Hassabis在内的多位AI行业高管，此前均对阿莫代伊提出的部分安全建议表达支持。

　　黄仁勋反驳：“这是一个错误的二选一”

　　随后登台的黄仁勋给出了截然不同的判断。

　　对于“AI发展速度”和“AI安全”是否存在冲突，黄仁勋直接表示，这是一个“错误的二选一”(false choice)，两者完全可以同时实现。他认为，模型开发商当然必须对产品负责，但没有必要因为风险讨论而人为限制整个行业的前进速度。旧金山当地媒体也报道，黄仁勋在Dreamforce明确主张由企业通过工程和产品机制管理安全风险，而不是首先依赖新的政府限制。

　　他的表述非常直接：“尽可能快地跑。”

　　不过，黄仁勋同时给出了一个前提：如果企业在任何阶段发现自身已经无法控制产品，或者无法确认即将推出的系统足够安全，就应该暂停，解决问题后再继续。

　　因此，黄仁勋与阿莫代伊之间真正的分歧并不是“要不要安全”，而是行业是否应该集体主动减速，以及政府是否有必要通过新的规则迫使企业减速。

　　黄仁勋认为，不应该把安全和速度对立起来；阿莫代伊则认为，在当前前沿模型能力快速提升的环境下，主动控制发展节奏本身就是安全机制的一部分。

　　奥特曼：安全不能附带任何条件

　　当天晚些时候，奥特曼与贝尼奥夫进行炉边谈话时进一步加入争论。

　　奥特曼表示，考虑到现有AI模型已经具备的能力，安全和监控必须优先于能力扩张。他特别批评一种行业逻辑，即一些公司可能表示：“只有其他公司负责任，我们才会负责任。”

　　在奥特曼看来，一家公司是否采取安全措施，不应该取决于竞争对手是否也采取相同做法。他强调，当外界追问企业将如何确保自身“无论如何”都安全和负责任时，企业的回答不应该附带任何条件。

　　Axios对Dreamforce现场的报道显示，奥特曼一方面承认AI带来的风险和社会担忧，另一方面仍认为行业能够建立机制管理这些风险。他同时判断，AI正在从聊天机器人、编程助手进一步迈向能够独立完成工作的下一阶段，这也意味着安全治理的重要性同步上升。

　　这使奥特曼的位置介于两个极端之间：他并没有主张停止技术发展，但明确认为，能力越强，安全、监控和责任机制越不能落在后面。

　　特朗普与黄仁勋更强调“不要失去速度”

　　这场硅谷内部争论背后，还有一个更大的政策变量——美国政府究竟会不会加强AI监管。

　　就在Dreamforce前一天，黄仁勋参加洛杉矶All-In Summit期间接到特朗普电话。特朗普再次淡化AI失控风险，并反对因相关担忧阻碍数据中心和AI基础设施建设。黄仁勋则回应称，美国可以同时保持AI领先和安全。特朗普政府目前整体更强调保持美国相对于中国的技术竞争优势，对可能显著放慢AI开发速度的新监管持谨慎态度。

　　这也解释了为什么当前AI安全争论已经不只是技术问题。

　　如果阿莫代伊等人的路线获得更多支持，前沿模型可能面临更严格的外部测试、发布审核和安全评估；如果黄仁勋以及当前美国政府强调的路线占据主导，AI基础设施、算力和模型开发则可能继续以更快速度扩张，同时把更多安全责任留给企业自身。

　　一边争论安全，一边继续砸钱扩张

　　有意思的是，即使AI行业围绕“该不该减速”争论越来越激烈，商业投入并没有停下来。

　　Salesforce和英伟达周二正式宣布Koa，这是Salesforce为Agentforce打造的首款CRM推理模型，基于英伟达Nemotron模型开发。Salesforce表示，Koa主要面向复杂、多步骤的企业工作流，目前已向部分试点客户开放，并计划于2026年冬季在美国地区全面推出。

　　Salesforce与Anthropic的合作也在继续深化。双方此前推出“Claudeforce”，把Claude更深地整合进Salesforce企业软件体系。

　　这形成了当前AI行业最值得关注的一种矛盾：企业高管开始越来越频繁地公开讨论失控风险，但与此同时，模型、算力、数据中心和企业AI产品的商业化速度仍在不断加快。

　　对于华尔街而言，这场争论最终也会落到估值和资本开支上。英伟达的核心逻辑依赖全球AI算力投资持续增长，OpenAI、Anthropic等模型公司则需要继续投入巨额计算资源。如果未来监管要求显著提高安全测试、独立审核或模型发布门槛，AI投资周期可能受到影响；但如果监管继续保持相对宽松，数据中心、芯片和企业AI支出仍可能延续高速扩张。

　　因此，Dreamforce上的这场争论真正提出的问题已经不是“AI有没有风险”，而是：当所有人都承认安全重要之后，到底应该先跑起来再解决问题，还是应该先确保刹车有效，再继续踩油门。

返回外汇网首页，查看更多>>