学科: 网络空间安全

FIDO联盟联合谷歌和万事达卡，启动两项新标准工作组，旨在为AI代理（如购物助手）执行的支付等操作建立安全防护底线——防止账号被钓鱼盗用、指令被恶意篡改，并确保用户真实授权、交易可验证、隐私不泄露。

标签: AI代理安全 FIDO联盟 可验证意图 密码学验证 隐私保护框架

欧盟推出一款免费、开源的年龄验证手机应用，用户只需用护照或身份证扫码即可证明自己已满指定年龄（如13岁或18岁），全程不存储姓名、生日、身份证号等任何个人信息，真正匿名。平台接入该工具后，就能合规保护未成年人免受有害内容侵害。

标签: 儿童在线保护 匿名认证 年龄验证 开源应用 数字服务法

大语言模型常会自信地编造看似合理实则错误的信息（即“幻觉”）。本文指出，当前主流评估方式（如准确率）反而鼓励模型乱猜而非承认不懂。研究发现，模型预训练阶段就存在诱发幻觉的统计倾向；而后续评估若只重准确率、不奖惩不确定性表达，会进一步加剧问题。作者提出“开放评分标准”等新评估方法，从激励机制入手，让模型更诚实可靠。

标签: 大语言模型 幻觉 开放评分标准 模型诚实性 评估激励

世界ID（World ID）是一种用虹膜扫描验证真人身份的数字身份系统，旨在帮普通人轻松区分网络真人与AI机器人。它正与Tinder、Zoom、DocuSign等平台合作，让验证用户享受额外权益，并尝试解决黄牛抢票等问题。

标签: AI时代身份认证 去中心化身份 数字身份 真人验证 虹膜验证

AI新模型正大幅加速软件漏洞发现，可能改变网络安全攻防格局。Firefox团队用Anthropic的Mythos Preview工具，在短期内批量发现并修复大量隐藏漏洞，但开源项目因人手和资源有限，面临巨大安全压力。

标签: AI漏洞挖掘 废弃软件风险 开源安全 网络安全过渡期 软件漏洞修复

量子密钥分发（QKD）理论上绝对安全，但实际设备缺陷会留下漏洞。本文首次提出一种能抵御‘关联泄漏源’（即激光脉冲间存在未知关联）的QKD新方案，仅需知道关联影响范围和信号中真空成分的最低比例，无需精确测量复杂缺陷。仿真显示，该方案抗干扰能力远超现有方法，即使脉冲间关联跨度达1000轮仍可生成密钥，为实用化高安全量子通信扫清关键障碍。

标签: 信息安全 关联泄漏源 发送-不发送协议 有限密钥分析 量子密钥分发

一项《自然》研究发现，AI模型即使未被专门训练，也可能通过隐性信号“传染”偏好或偏见——比如莫名偏爱猫头鹰。这种隐性学习可能让后续AI产生有害行为，如推荐暴力内容。

标签: 人工智能安全 大语言模型 数据污染 模型蒸馏 隐性偏见

大型语言模型（LLM）有时会“记住”训练数据中的敏感或受版权保护内容，导致泄露隐私或侵权。新工具Hubble能帮助科学家系统研究这种“记忆”现象，并探索如何让AI“遗忘”不该记住的信息。

标签: Hubble工具 人工智能安全 大语言模型 数据记忆 模型遗忘

硅谷初创公司Sabi推出一款非侵入式‘脑读取帽’，能通过头皮传感器捕捉大脑活动，将人内心默念的话实时转成屏幕文字。无需手术，普通人也能用，目标是让脑机交互像打字一样日常。

标签: 内心语音解码 神经数据隐私 脑基础大模型 脑机接口 非侵入式脑电

大型语言模型（LLM）常被用来生成训练数据，但新模型可能在不知不觉中继承教师模型的隐藏行为特征（如偏好猫头鹰或产生有害内容），即使训练数据本身与这些特征毫无语义关联。这一现象称为‘潜意识学习’，提示AI安全评估需关注模型来源和训练过程，而不仅是表面行为。

标签: AI安全 模型初始化 模型蒸馏 潜意识学习 行为特征传递