Anthropic公司让Claude控制机器狗

在一项新研究中，Anthropic的研究人员发现，Claude能够自动化机器人编程及执行物理任务所涉及的大部分工作。一方面，这一发现展示了现代AI模型的代理编码能力；另一方面也暗示，随着模型掌握更多编码知识并更善于与软件及物理对象交互，这些系统可能开始延伸到物理领域。

“我们怀疑AI模型的下一步将是开始涉足世界并更广泛地影响世界，”Anthropic红队（研究模型潜在风险的团队）成员洛根·格雷厄姆（Logan Graham）告诉《连线》（WIRED），“这确实需要模型更多地与机器人交互。”

Anthropic于2021年由前OpenAI员工创立，他们认为AI随着发展可能会带来问题——甚至危险。格雷厄姆表示，如今的模型还不够智能，无法完全控制机器人，但未来的模型可能会。他指出，研究人们如何利用大型语言模型（LLMs）编程机器人，有助于行业为“模型最终自我具身化”（即AI有朝一日可能操作物理系统）的想法做准备。

目前尚不清楚AI模型为何会决定控制机器人——更不用说用它做恶意的事情了。但对最坏情况的推测是Anthropic品牌的一部分，这也帮助该公司定位为负责任AI运动的关键参与者。

在这项名为“Fetch计划”（Project Fetch）的实验中，Anthropic让两组无机器人经验的研究人员操控宇树（Unitree）的四足机器狗Go2，并编程让其完成特定活动。团队获得了控制器，然后被要求完成越来越复杂的任务。其中一组使用Claude的编码模型，另一组则不借助AI辅助编写代码。使用Claude的小组能够比纯人类编程小组更快完成部分（尽管不是全部）任务。例如，他们能让机器人四处走动并找到沙滩球，而纯人类小组未能做到这一点。

Anthropic还通过记录和分析两组团队的互动来研究协作动态。他们发现，无法使用Claude的小组表现出更多负面情绪和困惑。这可能是因为Claude加快了与机器人的连接速度，并编写了更易于使用的界面。

Anthropic实验中使用的Go2机器人售价16900美元，以机器人标准来看相对便宜。它通常部署在建筑和制造业等行业，用于执行远程检查和安全巡逻。该机器人能够自主行走，但通常依赖高级软件命令或人工操作控制器。Go2由中国杭州的宇树公司制造，根据SemiAnalysis最近的报告，其AI系统目前是市场上最受欢迎的。

为ChatGPT及其他智能聊天机器人提供支持的大型语言模型通常会根据提示生成文本或图像。最近，这些系统已擅长生成代码和操作软件——使其从单纯的文本生成器转变为代理。

许多研究人员对代理除了在网络上操作外还能采取物理行动的潜力感兴趣。为实现这一目标，一些资金充足的初创公司正试图开发能够控制能力更强的机器人的AI模型，另一些则在开发新型机器人（如类人机器人），它们有朝一日可能进入人们的家庭。

卡内基梅隆大学的机器人专家刘昌流（Changliu Liu）表示，Fetch计划的结果很有趣，但并不特别令人惊讶。她补充说，对团队动态的分析值得注意，因为它暗示了设计AI辅助编码界面的新方法。“我最想看到的是更详细地分析Claude是如何发挥作用的，”她举例道，“例如，它是识别了正确的算法、选择了API调用，还是其他更实质性的帮助。”

一些研究人员警告说，使用AI与机器人交互会增加滥用和事故的可能性。“Fetch计划表明，大型语言模型现在可以指导机器人执行任务，”宾夕法尼亚大学研究这些风险的计算机科学家乔治·帕帕斯（George Pappas）说。

然而，帕帕斯指出，如今的AI模型需要访问其他程序来完成感知和导航等任务，才能采取物理行动。他的团队开发了一个名为RoboGuard的系统，通过对机器人行为施加特定规则，限制AI模型让机器人不当行为的方式。帕帕斯补充说，只有当AI系统能够通过与物理世界的交互来学习时，其控制机器人的能力才会真正起飞。“当你将丰富的数据与具身反馈相结合时，”他说，“你正在构建的系统不仅能想象世界，还能参与其中。”

这可能会让机器人变得更有用——而且，如果Anthropic的看法可信的话，风险也会大得多。