人工智能能避开“越来越烂”的陷阱吗？

我使用GPT-5推荐餐厅时，也需要付出一样东西：信任。我得相信它是公正的推荐者，不会因广告或回扣偏袒推荐；虽然我本可以自己深入研究（也确实查了官网），但用AI的意义就在于省去这种麻烦。这次体验增强了我对AI结果的信心，却也让我思考：随着OpenAI等公司愈发强大，且需回报投资者，AI是否会重蹈如今科技应用的覆辙，出现价值劣化这一普遍问题？

文字游戏

作家兼科技评论家科里·多克托罗将这种劣化称为“enshittification”（劣质化）。他的观点是，谷歌、亚马逊、脸书、TikTok等平台初期都力求讨好用户，但一旦击败竞争对手，就会刻意降低服务质量以牟取更大利润。《连线》杂志2022年转载多克托罗关于此现象的开创性文章后，这个词便进入日常用语——因为人们发现它说得太对了。“劣质化”还被美国方言学会选为2023年度词汇。这个概念被频繁引用，甚至超越了其粗俗含义，出现在通常对这类词汇避之不及的场合。多克托罗最近还出版了同名书籍，封面emoji正是……你猜是什么。

如果聊天机器人和AI助手也出现劣质化，情况可能比谷歌搜索变烂、亚马逊结果充斥广告、脸书减少社交内容转而推送引战标题更糟。

AI正朝着成为我们全天候伙伴的方向发展，能一键回应各种需求。人们已开始依赖它解读时事、获取购物建议，甚至人生选择的指导。由于打造成熟AI模型成本极高，预计只有少数公司会主导这个领域。它们都计划未来几年投入数千亿美元改进模型，让更多人使用。目前，AI应该处于多克托罗所说的“对用户友好”阶段。但收回巨额投资的压力巨大——尤其是用户群已固定的公司。正如多克托罗所写，这种情况下，公司会“为自己榨取所有价值”，从而损害用户和商业客户的利益。

想到AI劣质化，首先会想到广告。噩梦般的场景是：AI模型根据付费情况推荐。目前虽未发生，但AI公司正积极探索广告领域。OpenAI CEO山姆·奥特曼近期采访中说：“我相信我们能推出既对用户有益，又能增进用户关系的优秀广告产品。”与此同时，OpenAI刚宣布与沃尔玛合作，让沃尔玛顾客能在ChatGPT应用内购物——很难想象这里面会有利益冲突！AI搜索平台Perplexity有赞助结果项目，会在后续回答中明确标注。但它承诺：“这些广告不会改变我们提供可信服务、给出直接无偏答案的承诺。”

这些界限能守住吗？Perplexity发言人杰西·德怀尔告诉我：“对我们而言，首要保证是绝不会让这种事发生。”在OpenAI最近的开发者日上，奥特曼也表示公司“极度清楚必须谨慎行事”，以服务用户而非自身利益为重。但多克托罗的理论对这类声明不太买账：“一旦公司有能力让产品劣质化，就会永远面临这种诱惑。”他在书中写道。

聊天机器人对话或搜索结果中植入广告并非AI劣质化的唯一方式。多克托罗举例，公司垄断市场后会改变商业模式和收费。比如2023年，最受欢迎的游戏开发工具提供商Unity决定收取新的“运行时费用”。这种不当行为引发用户抗议，最终费用被撤回。再看亚马逊Prime Video等流媒体服务：曾是无广告服务，现在观影前后及中途都要插播广告，想关闭就得付费，而且Prime会员费还在涨。可见，锁定用户后不断涨价可能是科技巨头的常规操作。未来，用户或许要升级到更贵的套餐才能维持聊天机器人现有智能水平——这又是一种劣质化手段。甚至，曾承诺聊天记录不会用于训练未来模型的公司，某天可能会反悔——只因它们有能力这么做。

科里的看法

多克托罗的书中没提到AI，我便打电话问他是否认为AI注定会走上“变烂”之路。我本以为他会列举AI公司陷入这种“臭毛病”的各种方式，没想到他有不同观点。他并不看好AI，认为该领域甚至还没到我之前说的“对用户友好”阶段。但他说，即便如此，劣质化过程仍可能发生。他表示，由于大型语言模型（LLM）的“黑箱”内部运作难以窥见，“它们有能力掩盖劣质化行为，从而为所欲为”。最重要的是，该领域“糟糕的经济状况”意味着公司等不起，甚至在创造价值前就会开始劣质化。“我觉得随着经济状况恶化，它们会尝试各种 desperation的手段。”他说。

我不同意多克托罗对AI价值的看法——毕竟它帮我找到了Babette餐厅！但我确实担心，这项技术可能会重蹈当前科技巨头的覆辙，陷入他精准指出的劣质化过程。猜猜怎么着？GPT-5也同意我的观点。当我向它提出这个问题时，它回答：“多克托罗的‘劣质化’框架（平台初期对用户友好，随后将价值转向商业客户，最终为自己榨取价值）若缺乏激励管控，会令人不安地映射到AI系统上。”接着，GPT-5列出了AI公司为牟利和夺权可能降低产品质量的多种方式。AI公司或许会保证不会让产品劣质化，但它们自己的产品已经写下了“操作指南”。