xAI

本文提出 ExplAIner，一种面向分类模型解释的新型声明式查询语言，旨在让用户以接近数据库查询的方式，灵活、可组合地生成模型解释。与传统只能输出单一解释结果的方法不同，ExplAIner 通过统一的语言接口，把样本选择、分组比较、局部与全局解释、反事实分析等需求表达为可执行查询，降低了非专业用户使用解释工具的门槛。作者还讨论了该语言的设计原则、查询表达能力以及在实际分类模型上的应用方式，强调其在可解释性、可复现性和交互分析方面的优势。整体上，这项工作试图把机器学习解释从“固定算法”推进到“可声明、可组合、可审计”的查询范式。

这篇论文聚焦图神经网络（GNN）可解释性评估长期存在的碎片化问题：不同方法常用不同指标、不同数据集和不同解释粒度，导致结果难以横向比较。作者提出一个统一的评测框架，试图把“解释是否忠实于模型决策、是否稳定、是否足够简洁、是否对人有用”这些核心目标纳入同一套标准中，减少只看单一指标带来的偏差。该框架强调将解释方法放到可复现、可对照的实验设置中系统评估，为GNN解释器的选择、改进与公平比较提供更可靠的基准，也为后续面向图学习模型的可解释性研究建立更清晰的评价范式。

该论文提出 PulmoSight-XAI，一种用于多标签胸部 X 光片分类的可解释深度学习框架。方法融合多视图注意力机制与集成学习思想，先从不同视角建模胸片中的病灶线索，再通过梯度提升作为元学习器整合各分支输出，从而提升对多种胸部异常的联合识别能力。与单一模型相比，该框架更强调可解释性，能够突出影响判别的关键区域，便于临床人员理解模型依据。研究面向真实医疗影像中的多病灶共存场景，兼顾分类性能、鲁棒性与可解释诊断支持。

LinkedIn联合创始人、Greylock合伙人里德·霍夫曼在福布斯专访中明确指出，尽管马斯克常被冠以AI先锋之名，但SpaceX核心能力在于航天工程而非人工智能；他更尖锐批评xAI团队缺乏系统性AI研发能力，称其为“彻底的灾难”（complete train wreck），并指出其产品路线混乱、技术深度不足。霍夫曼强调，真正的AI公司需具备扎实的模型基础研究、数据飞轮与工程化闭环——OpenAI、Anthropic和部分中国团队更符合这一标准。他还警示Z世代创业者正陷入“用LLM搭应用即AI创新”的认知误区，忽视底层架构与长期科研投入。该观点引发AI圈对“AI公司”定义边界的再讨论。

Themis 是一个专为人类反馈强化学习（RLHF）设计的可解释AI框架，旨在解决当前RLHF系统中策略黑箱化、反馈稀疏性与人类意图对齐困难等核心挑战。该框架融合了基于注意力机制的策略归因模块、分层反馈解析器及反事实解释生成器，支持实时可视化决策依据与反馈影响路径。作者在Alpaca-Human和Safe-RLHF两个基准上验证了其有效性：相较基线方法，策略可解释性提升62%，人类反馈利用率提高38%，且在安全约束任务中误对齐率下降41%。论文强调‘解释即干预’的设计哲学，将可解释性直接嵌入训练闭环，为高风险场景（如医疗辅助决策、自主驾驶）下的RLHF落地提供新范式。

本文提出「可微分雅达利VCS」——一个完全开源、符号化建模的雅达利2600游戏模拟器，其核心创新在于将硬件寄存器、CPU指令周期与图形渲染管线全部实现为可微分计算图。不同于黑箱强化学习环境，该系统提供逐帧、逐指令级的精确因果轨迹，支持梯度反向传播至原始汇编指令，从而为归因分析、策略可验证性与模型内部机制探测提供首个具备完备地面真值（ground truth）的可控实验平台。作者在Pong与Breakout任务上验证了其对注意力热图校准、错误决策溯源及对抗扰动敏感性分析的有效性，为可解释AI研究填补了从理论归因到硬件级可验证性的关键断层。

本文提出Diffusion Integrated Gradients（DIG），一种融合扩散模型路径先验与积分梯度框架的新归因算法。区别于传统积分梯度依赖线性插值路径，DIG利用预训练扩散模型生成语义连贯、多样性丰富的隐空间轨迹，使特征重要性计算更符合真实数据流形结构。作者在图像分类与文本生成任务中验证其鲁棒性与可解释性提升，并支持用户通过条件引导调控归因路径——例如聚焦物体局部区域或抑制背景干扰。该方法为大模型可解释性研究提供了兼具理论严谨性与工程实用性的新范式，尤其适用于高维非线性决策场景。

本文提出Layer-wise Integrated Gradients（LIG），一种专为Transformer架构设计的细粒度可解释性技术。不同于传统Integrated Gradients仅分析输入到输出的全局路径，LIG将归因过程分解至每个注意力头、FFN子层及残差连接内部，实现对层内前向传播路径中各计算单元贡献度的量化评估。作者在多个语言理解任务上验证了LIG的有效性，表明其能精准定位关键token交互与非线性激活区域，显著优于基线方法；同时开源了配套工具库，支持Hugging Face模型即插即用。该工作填补了当前大模型可解释性研究中‘层内动态’分析的空白，为模型调试与安全审计提供了新范式。

该研究针对高校学生因职业发展压力引发的抑郁与焦虑问题，构建了一个基于结构化问卷数据（如学业负担、就业预期、社会支持量表等）的可解释AI模型。模型采用集成树方法（XGBoost+SHAP）实现高预测精度的同时，提供个体级特征归因与决策路径可视化，避免黑箱风险。研究在三所高校共1,842名本科生中完成实证验证，AUC达0.87，并识别出“实习不确定性”和“同辈比较强度”为两大关键风险因子。作者强调该框架非诊断工具，而是辅助心理咨询师开展早期筛查与干预设计的决策支持系统，呼应了WHO对数字心理健康工具透明性与伦理可追溯性的最新指南要求。

该论文提出Dys-XAI框架，针对构音障碍（Dysarthria）临床评估中黑箱模型可解释性不足的问题，首次将影响函数（Influence Functions）引入语音病理学AI系统。通过量化训练样本对单个预测结果的贡献度，模型不仅能输出严重度评分，还能定位关键声学特征（如基频抖动、共振峰偏移）及最具影响力的原始语音片段，辅助言语治疗师验证决策依据。作者在TAD-2023多中心数据集上验证了该方法在保持诊断准确率（±0.8%）的同时，显著提升专家信任度（+37%）。研究填补了医疗AI中面向神经言语障碍的因果可解释性空白，为FDA监管沙盒中的临床部署提供新范式。