AAAI (Annual AAAI Conference on Artificial Intelligence) 是人工智能方向的国际顶级会议之一。2026年1月20-27日，第40届AAAI人工智能年会将在新加坡举行，2026年论文录取率17.6%。

成果一：面向蛋白质语言模型的可解释性稀疏自编码器研究

团队提出了全新的语义引导稀疏自编码器框架 ProtSAE，以系统解决蛋白质语言模型（Protein Language Models, PLMs）隐空间表示的“语义缠结”问题。当前主流利用稀疏自编码器（SAE）进行模型可解释性分析的研究中，常常出现单个神经元同时混合多种概念、激活模式难以对应生物学语义等核心痛点。这不仅削弱了特征解释的可靠性，也限制了对模型行为的可控性。本工作首次从“语义层级”对传统 SAE 进行结构化改造，使模型能够沿着明确的语义方向 disentangle 隐空间特征，从而更稳定、更准确地提取具有生物学意义的潜在机制。

该工作主要包含三项关键贡献：
（1）语义引导的稀疏自编码器结构：在 SAE 训练中引入多类型语义约束，使编码器‒解码器的特征通道在训练过程中主动与预定义语义对齐，从而减少神经元混杂多种概念的现象，有效提升了特征的可分离性与可解释性。
（2）强制激活与语义一致性机制：建立显式的语义强化模块，通过控制特定神经元的激活行为，使其聚焦于明确的生物学语义特征，例如氨基酸性质、结构信号或功能属性。该机制显著改善了传统 SAE 中“难以保证特征对应单一语义”的问题。
（3）系统性的可解释性验证体系：论文开展了多组针对蛋白质语言模型的对比实验，从语义纯度、特征一致性、生物相关性等多个维度证明 ProtSAE 能在多个 PLM 上显著提升隐层特征的可解释程度，并展示了在下游蛋白质机制分析中的应用潜力。

该研究为蛋白质语言模型的可解释性提供了一个全新的方法思路，为未来在蛋白质理解、结构预测、功能解析等任务中构建可解释性模型提供了有效的工具。论文展示了如何通过引入语义结构化约束，使 PLMs 的隐空间从“混杂的黑箱特征”转向“可拆解的语义单元”，为生物计算与模型可解释性研究提供了重要启示。

研究团队针对大型推理模型（Large Reasoning Models, LRMs）在面对不可回答问题（如条件缺失的数学题）时无法正确拒答（Abstention Failure）的现象，进行了系统性的分析并提出了有效的解决方案“**认知监测与推理干预机制**”。

尽管LRMs（如GPT-o1, DeepSeek-R1）在复杂推理任务上表现卓越，但在面对本质上无法回答的问题时，往往会产生幻觉答案或陷入无效的思维循环（认知固着），难以给出“我不知道”的正确回应。为了探究这一问题，课题组首先揭示了LRMs存在“知行不一”的现象：通过探测模型表面行为和潜在表征，研究发现模型内部实际上具备识别问题不可回答性的认知能力，但这种内部认知未能转化为外部的拒答行为，即“明知故犯”（To Err Knowingly）。

基于这一关键发现，课题组提出了一种**结合认知监测与推理时干预（Inference-Time Intervention）的轻量级双阶段方法**。该方法首先实时监测模型推理过程中的内部状态，一旦检测到模型内部对“不可回答性”的置信度超过阈值，便立即触发干预机制。通过引入特定的引导提示（Instructional Guidance）和早退策略（Early Exit），帮助模型克服认知固着，将其内部的认知意识正确转化为明确的拒答输出。

实验结果表明，在SUM和UMWP等数据集上，该方法显著提升了R1-Distill-Llama、R1-Distill-Qwen及Qwen3等多个模型在不可回答问题上的拒答率和解释准确性，同时大幅减少了无效推理产生的Token消耗，且未对模型回答正常问题的能力造成负面影响，为构建更加可信赖的推理模型提供了新思路。

本论文中，刘毅（2022级博士研究生）为第一作者，胡伟教授为通讯作者。

论文信息：

Yi Liu, Xiangyu Liu, Zequn Sun, Wei Hu. Answering the Unanswerable Is to Err Knowingly: Analyzing and Mitigating Abstention Failures in Large Reasoning Models. AAAI 2026. (Nanjing University)