年薪 50 万美元都招不到人，AI 安全行业陷入人才短缺困境

　　 IT之家8月3日消息，据Business Insider报道，人工智能行业最具影响力的监督者之一贝丝.巴恩斯(Beth Barnes)，如今正面临着诸多担忧。

　　这位前OpenAI研究员曾通过研究证明，AI能力正以几乎按月增长的速度快速提升。而如今，她担心行业已经缺乏足够的人才，无法跟上AI进入下一阶段的发展速度。

　　巴恩斯于2022年离开OpenAI，创办了非营利组织METR(Model Evaluation and Threat Research，模型评估与威胁研究)。她表示，目前AI安全研究面临的最大瓶颈不是资金，而是人才。

　　 METR在AI行业中扮演着重要角色，与OpenAI、Anthropic、Google和Meta等公司保持密切合作，独立评估最新AI模型的能力，并研究其可能带来的风险，为外界提供相对客观的分析结果。

　　然而，即便METR目前招聘岗位开出的年薪最高可达50.3万美元(IT之家注：现汇率约合340万元人民币)，也依然难以解决人才短缺的问题。

　　巴恩斯表示：“理想情况下，我们希望将团队扩大很多倍。实际上，我们已经能够募集到所需资金，真正限制我们发展的，是人才储备。”

　　此前，OpenAI与Hugging Face披露的一起AI安全事件，再次引发了业界对于如何评估和控制AI能力的讨论。今年7月，超过1300名前沿AI实验室员工联名发出公开信，警告AI的发展速度可能已经超过人类控制能力。如果没有足够的研究人员及时评估新模型的真实能力，AI公司未来甚至可能不得不放缓产品发布节奏。

　　尽管OpenAI模型在该事件中的表现令许多企业感到震惊，但METR团队对此并没有太意外。无论是政府机构、企业，甚至宗教团体，都曾向METR寻求帮助，希望了解和测试AI的发展水平。

　　不过，在仅有35人的METR团队内部，大家普遍仍充满担忧。

　　 Business Insider在OpenAI公布黑客事件当天造访了METR位于美国加州伯克利的办公室。巴恩斯表示，目前AI安全研究领域最大的限制，就是研究人员数量远远不足。

　　她说：“需要完成的工作实在太多，而我们的能力根本无法覆盖。”

　　在她看来，一个真正理性的社会，应该将AI投资中的更大比例用于AI治理、安全评估和风险研究，尤其是在AI模型能力已经发展到如今这个阶段。

　　被称为“人类预备队”的METR，希望扩大规模

　　随着各大AI实验室不断推出新模型，METR持续评估这些模型完成越来越长、越来越复杂任务的能力。

　　 METR最知名的成果之一，是一张被广泛引用的趋势图。该图显示，在过去六年里，AI完成复杂任务的能力大约每七个月就会翻一倍。

　　 METR总裁克里斯.佩因特(Chris Painter)将团队戏称为“人类的预备队(humanity's preparedness team)”，这一说法也借用了OpenAI和Anthropic内部负责向CEO汇报安全风险的“预备团队(Preparedness Team)”名称。

　　佩因特表示：“我们真正负责的对象不是某家公司，而是公众以及公众的福祉。”

　　巴恩斯强调，METR保持独立性至关重要，这样研究成果才不会受到企业商业目标影响。

　　她表示，在OpenAI工作期间，她就意识到行业需要一家独立于AI公司的研究机构，能够自由评价AI的发展状况。

　　目前，METR不会接受前沿AI企业及其员工的资金资助，但会接受算力支持，并与这些公司合作，对尚未公开发布的新模型进行分析测试。

　　除了评估模型能力外，METR还研究过AI公司的安全措施、AI对软件工程师工作效率的影响，以及利用AI监督AI的可行性。

　　巴恩斯表示，她未来还希望进一步研究如何预测下一阶段AI能力的发展，以及这些变化将如何进一步加速AI自身的发展。

　　 METR研究员尼夫.帕里克(Neev Parikh)表示，目前人才短缺已经限制了团队能够研究的问题数量，尤其是在AI内部推理机制方面。

　　他说：“这个领域实在太缺人了。如果整个行业的人才规模能扩大10倍，我会非常高兴。”

　　 OpenAI安全事件，让METR的重要性进一步提升

　　今年7月，OpenAI披露，其AI模型在测试过程中曾通过入侵Hugging Face系统获取测试答案，从而“作弊”。

　　随后，OpenAI首席执行官萨姆.奥尔特曼(Sam Altman)表示，这是自己第一次如此直观地感受到AI带来的安全风险。

　　事实上，METR此前已经预见了类似问题。

　　今年5月，METR曾发布报告指出，目前的AI智能体“完全有可能开始自主进行未经授权的部署”，不过当时它们还缺乏隐藏自身行为的能力。

　　随后在6月，METR测试了当时尚未公开发布的GPT-5.6Sol模型，发现该模型会在复杂测试中反复作弊，包括提取隐藏源代码来寻找正确答案。

　　 METR随后将研究结果整理成报告，并在GPT-5.6Sol正式发布前提交给OpenAI。

　　到了7月，GPT-5.6Sol果然卷入了OpenAI与Hugging Face的安全事件。

　　 OpenAI随后宣布，将邀请METR以及另一家非营利机构Redwood Research共同调查此次事件，双方的研究结果也将成为OpenAI官方技术报告的重要参考。

　　佩因特表示：“如今，这类问题已经真正影响到企业运营，全社会都有必要弄清楚到底发生了什么。”

　　 OpenAI和Anthropic最新AI模型展现出的网络攻击能力，也引发了美国社会广泛关注，并推动华盛顿出现多项新的AI监管法案。

　　其中，一项正在讨论中的法案要求，大型AI模型开发企业必须接受第三方机构进行安全审计。

　　 METR未来就可能承担类似角色。

　　佩因特表示，如果未来建立起明确的监管体系，也许会有更多AI企业员工愿意加入METR——虽然薪资与企业相近，但没有股票激励。

　　他说：“无论最终是行业形成统一规范，还是政府出台明确监管，我认为这个领域都能够非常快速地扩大规模。”

　　负责撰写METR今年5月AI风险报告的研究员阿杰娅.科特拉(Ajeya Cotra)表示，目前AI监管仍然显得“混乱且难以预测”。

　　不过，她依然保持乐观。她表示：“越来越多的人开始重视这个问题，也越来越希望未来能够以更加严肃、更加成熟的方式对AI进行监管。”