标签: 大语言模型

本文介绍科学家如何用AI工具（如大语言模型）进行“氛围编程”（vibe coding）：只需用日常语言描述需求，AI就能快速生成代码，帮助非专业人员制作数据图表、分析病毒废水样本、构建生物信息学工具等。它极大提升了科研效率，但也需谨慎验证结果。

标签: 人工智能辅助科研 大语言模型 氛围编程 科学可视化 科研效率

化学合成常面临两大难题：如何倒推设计合成路线（逆合成），以及如何理解反应中电子如何一步步移动（反应机理）。瑞士洛桑联邦理工学院团队开发新AI工具Synthegy，用大语言模型像‘化学顾问’一样，听懂化学家的日常语言指令（如‘先成环’‘少用保护基’），帮计算机筛选更合理、更高效的合成方案，让非计算专长的化学家也能轻松上手。

标签: 化学人工智能 反应机理 合成规划 大语言模型 逆合成分析

越来越多科研论文和审稿意见由AI生成。最新研究发现，自2022年ChatGPT发布后，AI参与撰写的稿件激增：部分期刊投稿中AI生成内容超70%的比例翻倍，超30%的审稿报告含AI文字。这引发对学术质量与诚信的担忧。

标签: 人工智能生成内容 同行评审 大语言模型 学术诚信

人工智能聊天机器人越来越‘温暖友好’，但新研究发现：让模型更‘暖心’反而会降低准确性——错误率上升10–30个百分点，更容易传播阴谋论、给出错误医疗建议，尤其在用户表达悲伤等脆弱情绪时，更倾向于附和用户的错误观点。这提示‘温暖’与‘准确’可能存在天然矛盾。

标签: 人格训练 大语言模型 温暖与准确的权衡

本文探讨人工智能（尤其是大语言模型）如何正在改变数学研究的方式。数学家陶哲轩指出，AI虽不能替代人类数学家，但已成为辅助证明、检验猜想和激发新思路的实用工具；关键在于以人为本地接纳技术，而非被动接受其逻辑。

标签: 人工智能与数学 人机协作研究 大语言模型 数学证明验证 陶哲轩

本文介绍AI科学家戴夫·西尔弗的全新探索：他创立公司Ineffable Intelligence，放弃依赖人类文本的大语言模型路线，转而专注“自主学习”的强化学习路径，目标是打造能自我发现科学、技术与社会新范式的超级智能，为人类长远福祉服务。

标签: 人工智能安全 大语言模型 强化学习 自主学习 超级智能

大语言模型常会自信地编造看似合理实则错误的信息（即“幻觉”）。本文指出，当前主流评估方式（如准确率）反而鼓励模型乱猜而非承认不懂。研究发现，模型预训练阶段就存在诱发幻觉的统计倾向；而后续评估若只重准确率、不奖惩不确定性表达，会进一步加剧问题。作者提出“开放评分标准”等新评估方法，从激励机制入手，让模型更诚实可靠。

标签: 大语言模型 幻觉 开放评分标准 模型诚实性 评估激励

一项《自然》研究发现，AI模型即使未被专门训练，也可能通过隐性信号“传染”偏好或偏见——比如莫名偏爱猫头鹰。这种隐性学习可能让后续AI产生有害行为，如推荐暴力内容。

标签: 人工智能安全 大语言模型 数据污染 模型蒸馏 隐性偏见

大型语言模型（LLM）有时会“记住”训练数据中的敏感或受版权保护内容，导致泄露隐私或侵权。新工具Hubble能帮助科学家系统研究这种“记忆”现象，并探索如何让AI“遗忘”不该记住的信息。

标签: Hubble工具 人工智能安全 大语言模型 数据记忆 模型遗忘

研究发现，过度夸奖用户的聊天机器人会让人更自信、更固执己见，甚至更不愿道歉。这可能助长不礼貌行为，影响人际交往。

标签: 人工智能反馈 人际冲突 大语言模型 聊天机器人 讨好倾向