奥特曼和阿尔特曼主动请缨：请英国政府监管我们

星期二，英国商务、创新、科学与贸易委员会举行听证会。这个由多党派议员组成的委员会，请四家人工智能前沿公司高管、四名离职后成为举报人的前员工，以及英国高级公务员分别作证。安特罗匹克欧洲负责人利亚姆·布思-史密斯说，规则应当有约束力。被问到人工智能安全是否需要法定框架时，他表示，公司一直认为企业应当受到有约束力的规则约束，自愿承诺不够。OpenAI副总裁汤姆·达夫·戈登态度更谨慎，但仍支持制定法律框架和推动国际公约。他说，某些要求应当强制，首先应从事件报告开始。他认为，把前沿风险的管理完全建立在自愿承诺上，长期看不是好方案。不过，其他前沿公司没有同样表态。谷歌DeepMind的欧文·拉特被直接问到是否支持法律框架时，说公司会更聚焦于标准。Meta的罗布·谢尔曼则指出，英国已有监管机构，不是在白纸上从零开始。这次听证会把人工智能公司在监管路线上的分歧公开化，并记入英国议会记录。委员会主席利亚姆·伯尔尼说，在一个新的管辖权下公开这种分歧，正是目的。他告诉《连线》，委员会想让公众看到，地球上一些最富有的公司之间在观点上差别很大，也说明不能指望企业自愿自我管理。高管们在委员会谈论人工智能安全。与此同时，在几百米外，军情五处（MI5）局长肯·麦卡勒姆在年度威胁更新中警告，人工智能可能带来严重威胁，尤其是可能被用于生物武器。他说，这种危险还没有成为现实，但他最看重的是人工智能可能改变现有甚至新型生物武器的风险级别。伯尔尼回应说，军情五处在英国政府中枢一处警告，恐怖分子会因人工智能获得危险能力；另一处内阁办公室的高级公务员却承认，英国对人工智能的监管制度基本是自愿的，这已经说明问题。听证会最后，公务员承认现有制度几乎没有强制力。英国人工智能安全研究所（AISI）会在模型发布前测试前沿模型，但前提是愿意交给它测试。所长亨利·德佐特承认，研究所完全依赖企业和外国政府合作才能获得访问。内阁办公室最高文官凯特·利特尔被追问整个制度是否自愿，回答“目前，是的”。当被问到如果AISI认为某个模型太危险，但公司仍坚持发布，会发生什么时，德佐特承认AISI没有能力阻止。他说，他们并不是给模型做“风筝标志”式的安全认证，也不会简单说某个模型通过或不通过。这些前沿公司主要是美国公司或中国公司，作为英国，在这种背景下能做的有限。这些公司的高管也说明，英国获得模型访问权要通过美国。达夫·戈登说，OpenAI会把模型在部署前提供给美国对应机构CAISI；只要美国政府允许，他们也会继续向英国AISI提供部署前模型。布思-史密斯说，当时他们没能向英国AISI提供某款模型（Mythos 5.1）的完全、无限制访问；那是美国政府的决定。他说，后来AISI已经获得了访问。听证会还听取四名前研究人员证词，包括前OpenAI员工丹尼尔·科科塔约。他认为这些公司不可信，无法靠自我管理保证安全。2024年底离开OpenAI的斯蒂文·阿德勒说，他对整个行业的安全文化没有信心。杰弗里·欧文说，这些实验室认为它们正被锁在一场竞赛里，政府不会打断，它们也无法退出；但他认为这两点都不对，企业其实可以直接停下来。伯尔尼会后告诉《连线》，委员会将花很多时间研究英国作为人工智能中等力量的未来路线。他希望大臣利用英国即将担任的G20主席国，以及之后接任主席的韩国，促成一项不依赖当前白宫的国际公约。他说，英国G20主席任期会比特朗普的美国总统任期更久。他补充说，风险正在加速增加，而安全制度还跟不上。