埃里克·施密特（Eric Sc​​hmidt）反对一个“曼哈顿的Agi项目”

在周三发表的政策论文中，前Google首席执行官埃里克·施密特（Eric Sc​​hmidt），Scale AI首席执行官Alexandr Wang和AI安全总监中心Dan Hendrycks表示，美国不应追求曼哈顿项目风格的推动力，以使用“超人”的智能开发AI系统，也称为AGI。 该论文题为“超级智能战略”，他断言，美国专门控制超智能AI系统的积极竞标可能会引起中国的强烈报复，这可能是网络攻击的形式，这可能会使国际关系稳定。 合着者写道：“ [曼哈顿]项目[AGI]假设竞争对手会默认持久的失衡或肥胖症，而不是采取行动以防止它。” “最初是为了推动超级武装和全球控制风险促使敌对对立和升级的紧张局势，从而破坏了策略所声称要确保的稳定性。” 联合大卫在美国AI行业中的三个高度影响力人物中，该论文出现在美国国会委员会提出“曼哈顿项目式”努力以资助AGI发展的几个月后，该努力以1940年代的美国原子弹计划建立了仿制。美国能源部长克里斯·赖特（Chris Wright）最近表示，美国正处于AI上的“新曼哈顿项目的开始”，同时站在Openai联合创始人Greg Brockman的超级计算机网站前。 超级策略论文挑战了这一想法，近几个月来，受到美国政策和行业领导人的支持，即追求AGI的政府支持的计划是与中国竞争的最佳方式。 在施密特，王和亨德里克斯认为，美国正处于与互惠互利的破坏不同的AGI僵局。就像全球大国不寻求核武器垄断的方式一样，这可能会引发A的先发制人罢工Dversary - 施密特和他的合着者认为，美国应该谨慎地朝着统治极其强大的AI系统竞争。 尽管将AI系统比作核武器可能听起来很极端，但世界领导人已经认为AI是最高的军事优势。五角大楼已经说，AI正在帮助加快军队的杀戮链。 Schmidt等。介绍了他们称为AI故障（MAIM）的一个概念，在该概念中，政府可以主动禁用威胁AI项目，而不是等待对手对AGI进行武器化。 施密特（Schmidt），王（Wang）和亨德里克斯（Hendrycks）提出，美国将其重点从“赢得比赛转向超级智能”转变为开发阻止其他国家创建超智能AI的方法。合着者认为，政府应“扩大其网络攻击的武器库，以禁用威胁AI项目”，并由其他国家控制，并限制了对手对高级AI的访问芯片和开源模型。 合着者确定了在AI政策世界中发挥的二分法。有一些“注定者”，他们认为来自AI发展的灾难性结果是已定局的结论，并倡导了降低AI进步的国家。另一方面，有一些“鸵鸟”，他们认为各国应该加速AI的开发，从本质上讲，这一切都可以解决。 本文提出了第三种方法：开发AGI的测量方法，优先考虑防御性策略。 施密特（Schmidt）尤其值得注意的是，施密特（Schmidt）以前曾对美国在发展高级AI系统中与中国积极竞争的需求发声。就在几个月前，施密特（Schmidt）发行了一篇专栏文章，说DeepSeek标志着美国与中国的AI比赛的转折点。 特朗普政府似乎已经努力在美国的AI发展中晋升。但是，作为共同的HOSS注意，美国关于AGI的决定并不存在于真空中。 当全世界观看美国推动AI的极限时，施密特和他的合着者认为采取防御方法可能是明智的。