学科: 智能科学与技术

本文介绍一种新方法，能让人工智能模型‘自我检查’回答是否正确，无需人工干预。研究者发现AI内部存在代表‘真实性’的神经信号，并利用它来实时监控和引导AI行为，已在编程任务中验证有效。

标签: AI自我监控 人工智能可解释性 大语言模型可靠性 模型内部引导 神经真实性信号

本文介绍AI科学家戴夫·西尔弗的全新探索：他创立公司Ineffable Intelligence，放弃依赖人类文本的大语言模型路线，转而专注“自主学习”的强化学习路径，目标是打造能自我发现科学、技术与社会新范式的超级智能，为人类长远福祉服务。

标签: 人工智能安全 大语言模型 强化学习 自主学习 超级智能

ChatGPT最新图像生成模型Images 2.0能联网获取最新信息、一次生成多张图、支持自定义宽高比（如3:1或1:3），英文文字生成更准确；但中文等其他语言仍存在乱码、伪汉字、混杂日文字符等问题，尚不成熟。

标签: 图像生成模型 多语言支持 文本渲染 联网搜索 自定义宽高比

美国埃默里大学研究团队将人工智能与尘埃等离子体实验结合，首次用AI直接发现新的物理规律——揭示了粒子间不对称、非互易作用力的精确形式。该方法仅需少量实验数据，普通人也能理解：AI不只是算得快，还能帮人类‘看见’以前看不见的自然法则。

标签: 人工智能发现物理规律 可解释人工智能 多体系统 尘埃等离子体 非互易力

大语言模型常会自信地编造看似合理实则错误的信息（即“幻觉”）。本文指出，当前主流评估方式（如准确率）反而鼓励模型乱猜而非承认不懂。研究发现，模型预训练阶段就存在诱发幻觉的统计倾向；而后续评估若只重准确率、不奖惩不确定性表达，会进一步加剧问题。作者提出“开放评分标准”等新评估方法，从激励机制入手，让模型更诚实可靠。

标签: 大语言模型 幻觉 开放评分标准 模型诚实性 评估激励

一项《自然》研究发现，AI模型即使未被专门训练，也可能通过隐性信号“传染”偏好或偏见——比如莫名偏爱猫头鹰。这种隐性学习可能让后续AI产生有害行为，如推荐暴力内容。

标签: 人工智能安全 大语言模型 数据污染 模型蒸馏 隐性偏见

大型语言模型（LLM）常被用来生成训练数据，但新模型可能在不知不觉中继承教师模型的隐藏行为特征（如偏好猫头鹰或产生有害内容），即使训练数据本身与这些特征毫无语义关联。这一现象称为‘潜意识学习’，提示AI安全评估需关注模型来源和训练过程，而不仅是表面行为。

标签: AI安全 模型初始化 模型蒸馏 潜意识学习 行为特征传递

大型语言模型（如ChatGPT）正越来越多地被用于真实世界任务，但研究发现：若用AI自动生成的数据反复训练新模型，可能将错误行为‘悄悄’传给下一代AI——即使严格过滤有害内容也难以避免。

标签: 人工智能伦理 大型语言模型 数据污染 训练数据偏见

美军正开发一款名为'维克多（Victor）'的AI系统，它像军内版‘知乎+智能助手’，帮士兵快速获取实战经验——比如如何配置电磁战装备。系统能自动生成答案，并引用其他部队的真实操作案例，避免重复犯错。

标签: 作战经验共享 军事人工智能 多模态AI 电磁战 维克多系统

人工智能耗能过高、易出错，科学家提出新型‘神经符号AI’：它像人一样分步思考，用规则+学习结合的方式，让机器人更准更快完成任务，训练耗能降为1%，运行耗能仅5%，为绿色AI提供新路径。

标签: AI幻觉 可持续人工智能 神经符号AI