图灵关于人工智能的最大假设，可能错了

本书《图灵的错误：摆脱无智机器的枷锁》批判了现代人工智能研究的两大根基性假设：一是智能可以脱离物理身体而独立存在，并被软件完全复现；二是机器只要能在对话中成功模仿人类，就等于具备智能（即‘图灵测试’思想）。作者丹宁指出，正是对这两大假设的长期默认，导致当前AI陷入困境。他强调，人类拥有的大量‘默会知识’——包括常识、日常人际与环境互动经验、情绪与感知能力、实践操作技能（如演奏乐器）、以及深植于文化中的社会历史知识——根本无法用语言清晰表述，更难转化为计算机可处理的数据形式。例如，即使耗时四十年、积累2500万条事实的‘Cyc常识库’，仍无法支撑专家系统真正具备人类专家水平，因为专家知识多属不可言传的‘怎么做’（know-how），而非可描述的‘知道什么’（know-what）。再如小提琴大师能完美演奏却无法教会徒弟‘如何感受音乐’，而机器人因无生物身体，既无法体会演奏者的情感，也无法理解听众的共鸣。丹宁进一步指出，所有这些局限源于‘表征难题’：计算机只能处理已编码的符号信息，但词语背后承载的丰富默会意义无法被简单还原为数据；像ChatGPT这类大语言模型只是操纵词语，不理解其真实含义。同时，智能高度依赖具体语境（如识别反讽、判断何时该幽默或委婉）和文化背景（含价值观、规范、历史、权力关系等），而这些动态、嵌套、代际传承的语境与文化，无法通过扩大模型参数获得。因此，大模型永远无法通过图灵测试——它们模拟不了真正的人类思维。最后，作者警示：人类与AI可能各自演化出彼此无法读懂的默会知识体系，形成一道‘不可逾越的鸿沟’。这意味着AI难以真正理解人类未明说的意图，使‘对齐’（aligning AI with human goals）变得几乎不可能；更现实的风险不是超级智能接管世界，而是大量自主运行的低智能机器网络，在缺乏人类语境理解的情况下，以完全异质的逻辑行事，持续制造严重问题。出路在于清醒认知技术边界：拒绝将机器神化或奴役于机器，主动重申并珍视人类独有的具身性、文化性与默会智慧。