教师名录
邮箱：zqs1022@sjtu.edu.cn
所在研究所：机器智能研究所
个人简介
『能否通过简洁的符号化逻辑严谨且全面地解释神经网络表征机理』是可解释性领域的核心科学问题，但长年找不到理论突破口，在学界形成“不可能解决”的惯性思维，此看法长期桎梏着从内在机理层面实现可信推理与安全执行，成为解释性算法所公认的最大的应用障碍。张拳石科研团队，独辟蹊径，独立构建了『基于等效交互的可解释性理论体系』，率先从以下三个角度全方位攻克了神经网络符号化解释的理论壁垒，打破了无法对神经网络内在机理严谨且简洁的解释的固有认知，为智能体可信推理与安全执行奠定坚实理论基础。理论突破主要体现在以下三方面：
第一，部分攻克了神经网络决策机理符号化解释难题：提出新的公理系统定义符号化机理，数学证明了大部分满足遮挡鲁棒性的函数，在单个样本上的决策逻辑，可被严谨地解释为稀疏的“与交互机理”。为本项目进一步拓展至一般性的“与或交互机理”，全面解析神经网络精细决策机理，奠定了理论基础。
第二，攻克了模型鲁棒性机理解释难题：提出了等效交互机理稳定性理论，从交互机理层面揭示了神经网络鲁棒性与表征瓶颈的内在根因。为本项目进一步证明并解构“可泛化交互机理”和“不可泛化交互机理”奠定了理论基础。
第三，在交互层面统一了工程性算法内在机理：在交互层面统一解释了“重要性归因解释”方向上大部分（14 种）经典算法的内在机理。提出基于双变元交互的对抗效用表征理论，证明了大量不同提升对抗迁移性的经典算法都共享相同的核心数学机理，即降低交互效用。
教育背景
(1) 2011-10 至 2014-09, 东京大学, 空间信息科学中心, 博士
(2) 2009-10 至 2011-09, 东京大学, 空间信息科学中心, 硕士
(3) 2005-09 至 2009-06, 北京大学, 信息科学技术学院, 学士
工作履历
(1) 2018-09 至 今, 上海交通大学, 电子信息与电气工程学院, 副教授
(2) 2014-10 至 2018-08, 美国加州大学洛杉矶分校，博士后研究员
教授课程
《机器学习》《可信人工智能与伦理》
论文发表
(1) Quanshi Zhang; Xu Cheng; Yilan Chen; Zhefan Rao ; Quantifying the Knowledge in a DNN to Explain Knowledge Distillation for Classification, IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE T-PAMI), 2023, 45(4): 5099-5113
(2) Quanshi Zhang; Xin Wang; Ying Nian Wu; Huilin Zhou; Song-Chun Zhu ; Interpretable CNNs for Object Classification, IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE T-PAMI), 2021, 43(10): 3416-3431
(3) Huiqi Deng; Na Zou; Mengnan Du; Weifu Chen; Guocan Feng; Ziwei Yang; Zheyang Li; Quanshi Zhang ; Unifying Fourteen Post-Hoc Attribution Methods with Taylor Interactions, IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE T-PAMI), 2024, 46(7): 4625-4640
(4) Quanshi Zhang; Xin Wang; Ruiming Cao; Ying Nian Wu; Feng Shi; Song-Chun Zhu ; Extraction of an Explanatory Graph to Interpret a CNN, IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE T-PAMI), 2021, 43(11): 3863-3877
(5) Quanshi Zhang; Jie Ren; Ge Huang; Ruiming Cao; Ying Nian Wu; Song-Chun Zhu ; Mining Interpretable AOG Representations from Convolutional Networks via Active Question Answering, IEEE Transactions on Pattern Analysis and Machine Intelligence (IEEE T-PAMI), 2021, 43(11): 3949-3963
资助项目
主持科技创新2030“新一代人工智能”重大项目课题一项、国自然重点项目（培育计划）一项、国自然面上项目一项、国自然青年项目一项。
获奖信息
国家级海外高层次青年人才引进项目
ACM China新星奖
华为优秀技术成果奖
学术服务
Transactions on Machine Intelligence Research责任编辑
多阶NeurIPS、ICML、AAAI领域主席
English
