亚马逊用AI机器人深入查找软件漏洞

ATA诞生于2024年8月的亚马逊内部黑客马拉松，此后已发展成为安全团队的关键工具。其核心理念并非开发单一AI代理来全面开展安全测试和威胁分析，而是由亚马逊开发多个专业AI代理，组成两支团队相互竞争，以快速研究真实攻击技术及其针对亚马逊系统的不同利用方式，并提出安全控制措施供人类审核。

亚马逊首席安全官史蒂夫·施密特向《连线》杂志表示：“最初的构想旨在解决安全测试中的一个关键局限——覆盖范围有限，以及在快速演变的威胁环境中难以保持检测能力的时效性。覆盖范围有限意味着由于人力不足，无法遍历所有软件或应用；而即使分析了部分软件，若检测系统未随威胁变化更新，也只是管中窥豹。”

为扩大ATA的应用，亚马逊开发了特殊的“高保真”测试环境，高度真实地模拟其生产系统，使ATA既能接收也能生成真实遥测数据用于分析。安全团队还特意设计ATA，使其采用的每项技术和生成的检测能力都通过真实的自动测试和系统数据验证。负责寻找针对亚马逊系统攻击方法的红队代理，在ATA的特殊测试环境中执行实际命令，生成可验证日志；蓝队（防御型）代理则利用真实遥测数据确认所提防护措施是否有效。每当代理开发出新技术，还会调取带时间戳的日志证明其主张的准确性。

施密特称，这种可验证性减少了误报，起到“幻觉管理”作用。由于系统要求特定标准的可观察证据，“从架构上就不可能产生幻觉”。

亚马逊安全工程师迈克尔·莫兰表示，ATA的专业代理团队协作（各展所长实现共同目标）模仿了人类在安全测试和防御开发中的协作方式，而AI的优势在于能快速生成攻击技术的新变体和组合，并提出修复方案，这对人类单独完成而言耗时过长。莫兰（2024年黑客马拉松上最初提议ATA的工程师之一）说：“现在我能带着新技术进来，想‘这是否可行？’，而ATA的框架已帮我处理了很多基础工作，让一切以机器速度运行，工作更有趣了。”

施密特还指出，ATA在研究特定攻击能力并生成防御措施方面已极为有效。例如，针对黑客用于操控目标设备发起远程连接的Python“反向shell”技术，ATA在数小时内就发现了新的潜在反向shell策略，并为亚马逊防御系统提出了100%有效的检测方案。

ATA自主工作，但采用“人在环中”方法，实际修改亚马逊安全系统前需人工输入。施密特承认，ATA不能替代高级、细致的人类安全测试，而是承担日常威胁分析中的大量基础性任务，让人类员工有更多时间处理复杂问题。其下一步计划是将ATA应用于实时事件响应，以更快识别和修复对亚马逊大型系统的实际攻击。