科学家警告AI浏览器越聪明越危险 内部声音呼吁放慢脚步

科学家警告AI浏览器越聪明越危险 内部声音呼吁放慢脚步。近年来，关于人工智能风险的讨论一直持续不断。真正值得关注的是来自AI核心圈内部的声音。2026年7月，一份名为《Pacing the Frontier》的公开声明引起了全球关注。这份声明由1224位全球顶级AI从业者共同签署，涵盖了Anthropic CEO Dario Amodei、OpenAI首席科学家Jakub Pachocki、Meta AI首席科学家Shengjia Zhao等重要实验室的核心研究人员。这些人不仅是旁观者，更是当前最先进AI系统的设计者。

当这些行业内的专家开始呼吁放慢脚步时，这已经不仅仅是一次技术讨论，而是一次来自行业内部的集体预警。他们担心的并不是AI是否会变得更聪明，而是人类是否能跟上AI进步的速度。

声明中最核心的担忧是自动化AI研究正在成为现实。过去，人类负责设计模型、优化算法和验证结果。未来，AI自己就能完成这些工作。这意味着AI不再只是一个工具，而是新的AI开发者。一旦形成这样的闭环：AI改进自身，生成更强的AI，再进一步改进，整个技术进步可能进入指数级增长。这种趋势已经开始显现，仅仅四年时间，AI已经从只能理解自然语言发展到能够完成超越人类的软件工程任务，并在前沿数学研究中取得突破。如果未来AI能够自主完成科研，其发展速度可能会超过任何团队或公司的理解能力。真正危险的是AI变聪明的速度脱离了人类控制。

另一个令人警惕的问题是AI已经具备现实世界的攻击能力。Meta AI首席科学家Shengjia Zhao团队开发的安全评测系统显示，前沿AI Agent已经能够自主发现软件漏洞并尝试利用这些漏洞进行攻击。这意味着未来的网络攻击可能不再是人工操作，而是可以24小时工作的AI。相比传统黑客，AI有天然优势，如果安全能力不能同步提升，现有的大部分网络防御体系将面临前所未有的压力。