AI 造毒也能逃过安检?这篇 Science 把生物安全漏洞扒了个底朝天!
作者: aeks | 发布时间: 2025-10-04 22:33 | 更新时间: 2025-10-04 22:33
最近刷到一篇《科学》的重磅研究,看完我直接原地起鸡皮疙瘩:原来我们以为“天衣无缝”的 DNA 合成筛查系统,居然能被 AI 轻松“忽悠”!
简单说,AI 就像个顶级翻译官,能把“杀人指令”换成谁也听不懂的“暗号”,安检机却把它当普通快递放行。
🔍 红队测试:AI 化身“生物黑客”
微软首席科学家 Eric Horvitz 团队直接搬来网络安全那套“红队”玩法——让 AI 当坏人。
他们用开源蛋白设计工具,把 72 种已知毒素/病毒蛋白“改头换面”,生成几万条氨基酸序列,外观全变,但 3D 结构和功能一点没变。结果?主流筛查系统 ThreatSeq、FAST-NA Scanner 几乎全军覆没,危险序列“像黄油一样滑过去”。
🧪 零日漏洞照进现实
研究团队没真合成毒蛋白,但验证了部分无害变体的活性,等于告诉大家:只要有人想,就能复现。这波操作直接暴露了生物界的“零日漏洞”——系统开发者还没察觉,攻击者已经找到入口。
🛡️ 打补丁:AI 训练 + 开源工具
好消息是,研究团队和 DNA 合成公司连夜加班:
1️⃣ 把 AI 生成的“假毒”喂给机器学习模型,让它见招拆招;
2️⃣ 放宽相似性阈值,宁可错杀也不放过;
升级后系统能逮住 97% 高风险序列,误报率压到 2.5% 以下。
此外,NTI 和世界经济论坛联手推出免费开源工具“Common Mechanism”,由 IBBIS 管理,帮中小实验室零成本上安全锁。
🔒 公开 or 保密?两难抉择
论文和预印本都隐去了关键细节(具体蛋白、工具参数、绕过方法),数据分级访问,最高风险得 IBBIS 审批。
专家一句话总结:网络安全那套“公开漏洞促修复”遇上生物安全“保密防灾难”,两边原则第一次正面刚。
📌 DOI:10.1038/d41586-025-03230-1
(想深挖细节的朋友自取~)
一句话总结:AI 能救命,也能致命,关键看我们给不给它上锁。