12月18日下午，清华大学软件学院闻立杰副教授应邀为管理工程学院师生作了题为“Towards Responsible and Trustworthy Large Language Models（负责可信的大语言模型）”的学术报告。报告会在诚明楼213会议室举行，学院部分青年教师和研究生参加报告会。会议由管理工程学院副教授胡磊主持。

闻立杰首先介绍大语言模型在内容生成、信息检索等领域的现实应用，并指出滥用大语言模型会导致的不安全、不合规和不可信等安全威胁。然后，他针对大语言模型的滥用问题，分享安全对齐和大语言模型水印两个方向的研究前沿。安全对齐旨在使大语言模型更好地遵从人类指令，生成更加符合人类价值观的内容。大语言模型水印则致力于使大语言模型的输出可被检测和追溯。最后，闻立杰以4项最新研究成果为例，展示强化学习、对比学习、样本重要性权重定义、蒸馏学习、语义不变性等机器学习研究思路在大语言模型研究中的应用。

闻立杰的报告内容紧跟前沿，与时俱进，讲解生动，引发了大家对相关研究的强烈兴趣。参会师生围绕大语言模型的水印生成方法以及在股票价格、天气预测等场景的应用与专家进行交流。

本次报告会使管理工程学院师生了解到可信大语言模型领域的学术前沿，激发了对该领域的研究热情，对于提高师生的学术水平有很大的帮助。报告会取得圆满成功。

【专家简介】

闻立杰，男，河北唐山人，博士，清华大学软件学院长聘副教授/博导，清华大学书院党委笃实书院学生工作组组长，分别于2000年、2003年、2007年获清华大学计算机科学与技术专业学士、硕士、博士学位。研究方向为自然语言处理、大数据处理与分析、业务流程智能挖掘。截至目前，在ACL、ICLR、ACM SIGIR、ACM SIGKDD、ACM MM、IEEE/ACM ASE、AAAI、EMNLP、IEEE  TKDE、IEEE TPDS、IEEE TSC、《计算机学报》《软件学报》《计算机研究与发展》等会议和期刊上发表论文230余篇，谷歌学术引用6600余次。主持国家重点研发计划课题3项、国家自然科学基金2项，参与国家NSFC/973/863计划子课题十余项、国家核高基重大专项课题1项。获国家科技进步奖二等奖1项、国家发明专利及软件著作权二十余项。过程挖掘论文收入国际教材和学术专著，出版译著3部。现任国际会议ACL、SIGIR、CVPR、AAAI、EMNLP、CAiSE、ICSOC、BPM、ICPM程序委员会委员，中国业务过程管理大会CBPM指导委员会执行主席，IEEE过程挖掘工作组XES标准化小组委员（中国唯一）。主导研发交互式大数据处理与分析平台FloK和流程挖掘工具THUMiner，研究成果已在中国移动、华为、中国气象局、天远科技、中车四方所、瑞华高科等获得初步应用。