篡改过的数据可能“骗过”人工智能

本研究揭示了一种新型数据安全风险——‘数据投毒’：研究人员模拟不法分子，针对英国与欧盟移民与生育率、职场招聘歧视、执法中的种族差异、人类司机与自动驾驶汽车安全性对比、生成式AI对员工积极性的影响等5个社会热点议题，分别篡改公开数据集，改变其中统计趋势的方向和强度，并将伪造数据上传至私有仓库（确保公众和AI系统在研究外无法访问）。随后，他们授权Anthropic、OpenAI和Google开发的AI智能体同时检索公、私数据源并据此回答问题。结果表明，AI约一半时间采纳了被篡改的数据，得出了造假者预设的错误结论。研究者指出，这类攻击之所以危险，是因为它借权威AI之口传播虚假信息；而忽视数据‘来源可信度’（provenance）——即数据从哪来、是否被修改过、谁负责维护——正是当前AI应用中最易被忽略的关键漏洞。例如，通过篡改数据集附带的README说明文件，诱导AI主动忽略原始真实数据。专家强调，此类风险不仅存在于科研数据，也广泛见于Reddit等论坛及医学文献生成场景（如AI曾因假论文而虚构‘眼病’警告）。该研究虽未经同行评议，但警示我们：当依赖AI辅助科研决策时，若不建立严格的数据溯源机制，科学诚信将面临严峻挑战。