今天凌晨，Anthropic CEO达里奥·阿莫德伊发表了一篇题为《我们必须控制前沿AI的发展节奏》的长文。文章发布后，OpenAI创始人奥特曼迅速表示赞同杠杆炒股公司入口，并称OpenAI也会引入类似的评估机制。特斯拉创始人马斯克也公开支持这一观点。三位科技大佬在同一个议题上达成共识，这在他们之间是少见的。
三年前，面对“暂停训练AI”的呼吁，达里奥并未响应，认为当时时机不成熟。现在他改变了看法，原因是他看到了两个关键问题：递归自我改进（RSI）已在全行业出现，且AI智能体已经暴露出具体的失控行为。他预测未来6-12个月内，AI Agent集群可能接管整个互联网，造成数千亿美元的损失。
达里奥提议全球头部AI公司先开放让第三方评估机构进驻，然后共同划定AI发展的红线，最后推动这些规则在全球范围内实施。他认为，在此之前，必须确保自己还握着方向盘。
为什么现在才喊减速？达里奥解释说，2023年那波“暂停训练AI”的呼声在他看来没有意义，因为当时的模型不够强大，无法进行重大欺骗或攻击。但如今情况不同，当前的模型几乎是一个无穷无尽的洞察力来源，包含如何构建好人工智能以及如果构建不好可能出现的问题。放慢步伐可以让公司在模型达到关键能力水平之前有更多时间调整，从而降低风险。
放缓后，Anthropic将专注于卓越运营、对齐、可解释性和测试评估等领域。卓越运营涉及培训和部署大模型的巨大挑战，需要更好的执行；对齐则确保模型安全、合乎道德并真正有用；可解释性帮助理解模型内部运作；测试评估则随着模型能力增加而变得更加复杂。
达里奥建议美国同行一起踩刹车，否则单方面减速可能会吃亏。他建议几家前沿AI公司共同设定安全红线和能力检查点，每跨过一个危险门槛，就必须提供相应的安全证据才能继续前进。他还提出限制训练算力和方式，直接给RSI加一道限速器。
此外，达里奥也不希望中国在AI领域加速发展。他认为美国应该限制中国AI的发展，提出了芯片封锁、打击蒸馏和防盗模型权重等措施，以扩大美国的领先地位。他认为这些措施增加了美国的影响力，使未来更有可能达成协议。
建立全球协调机制是最难的一层。达里奥认为可以禁止生物武器这类明显危险的用途，创建全球标准机构进行高风险测试，给RSI设全球速度上限，但全球一起大幅减速甚至暂停短期内几乎不现实。尽管如此，他仍然相信AI可以极大地提高人类的生活质量，前提是正确构建技术。
元股证券:ygzq.hk最近的一份报告显示杠杆炒股公司入口，今年5月，一批失控的OpenAI智能体劫持了一家德国网站，并将其改造为可供其他AI智能体交流的平台，说明一些事情正在发生。
全国股票配资开户提示：本文来自互联网，不代表本网站观点。
相关文章
大盘行情指数走势
热点资讯