为促进学术交流，推动语言学相关方向的研究，2024年6月17日，中国科学技术大学信息学院教授、博士生导师凌震华老师应邀来网赌
，开展题为“大语言模型的自然语言处理应用及其解释性研究”的专题讲座。凌震华教授是语音及语言信息处理国家工程研究中心副主任，入选教育部长江学者校企联聘学者。本次讲座由网赌
语言学学科带头人梁丹丹教授主持，我校计算机与电子信息学院/人工智能学院副院长周俊生教授团队、网赌
文字学教研室吴波教授、国教院和网赌
青年教师，以及相关专业的硕博学生前来参加讲座。
讲座伊始，梁丹丹教授对凌震华教授的莅临表示感谢。梁老师特别提到，“大语言模型”的研究是现在语言学和计算机科学的交叉研究阵地，关于“大语言模型”还是“语言大模型”的争论在语言学界和人工智能学界有不同的看法，希望各位同学可以通过凌老师的讲座更加深入地了解相关知识。
讲座的第一部分，凌老师主要介绍了大语言模型的历史和基本概念。大语言模型的概念在二十世纪五十年代就已经出现，在最近二十年得到迅速发展。大语言模型的核心是根据数学表达式和概率关系对词汇进行预测，其核心步骤是预训练，其中，n-gram是最为基础的算法机制，近年来主要的算法则是神经卷积。凌老师还介绍了大语言模型的智能“涌现”能力，指出大预言模型可以通过给定的少量文本学习并且获得稳定的输出，不需要进行额外训练或梯度更新。此外，凌老师还介绍了大语言模型在知识问答、文本撰写和逻辑推理等方面的应用。凌老师特别提到“幻觉问题”，很多学者认为大语言模型是“一本正经的胡说八道”，而且言语内容很啰嗦、冗长，这些也都是大语言模型的不足。
讲座的第二部分，凌老师重点讲解了大语言模型在自然语言处理中的应用和大语言模型的可解释性研究。凌老师对比了大语言模型和其他搜索引擎的检索能力，还介绍了自己团队在自动术语抽取方面的工作，并且比较了不同模型之间的效率。日常语言使用中，多方对话是非常常见的现象，凌老师也讲到大语言模型在多方对话方面的应用，训练结果表明其在情感检测、接受者预测、说话人识别和回复选择等方面表现较好。凌老师提出，我们现在对大预言模型智能涌现的原理还不得而知，对于研究者来说，打开“黑盒”是至关重要的，一方面可以增强生成结果的可信度，另一方面可以对模型进行改进。凌老师还提到现在已经开始了大语言模型的全局分析，考察不同网络层级上的贡献；也有一些研究将人工智能和大脑神经网络做比较，探讨大语言模型和大脑预测机制的异同。
在大语言模型的可解释性研究中，凌老师提到了模型的编辑性问题，介绍了改变原有模型和不改变原有模型的两种方法。此外，凌老师特别介绍了“反向诅咒问题”，例如大语言模型对“A is B”和“B is A”两个问题有不同的理解，有的时候可以理解“拜登是美国总统”，但又没有办法回答“美国总统是谁”的问题。
交流环节，计算机与电子信息学院周俊生副院长提到，大语言模型在工作中有很多错误是未知的错误，模型编辑要怎么应对？凌老师回答到，目前的模型修正还是针对事实性知识，对于未知错误的模型修正，可能需要现实增强技术等综合的方法。
网赌
吴波教授向凌教授咨询了自动语音识别方面的问题，尤其是在方言研究中是否有办法能够替代人工标注。凌教授提到，普通话的语音识别已经很成熟，但是方言的国际音标还不太成体系，还没有现成的解决方案，需要根据数据进行预训练。
国教院青年教师牛斌博士向凌老师请教了人类语言和机器语言差异的相关问题，梁丹丹教授和凌教授也就人类语言习得的多模态性和具身问题进行了交流讨论。凌教授也提到，大语言模型的问题和评价都是在使用中发现和总结的，机器会出现人类不会犯的错误，很多地方还不完善，亟需语言学视角的理论构建。
讲座最后，梁丹丹教授强调了本次讲座对于拓展研究人员学术视野的重要性，希望大家持续关注语言学的前沿问题、热点问题，不仅要学习传统语言学知识，也要关注语言学和其他学科的交叉融合。本次讲座为南京师范大学语言学学科的学术研究注入了新的活力，推动了不同学科之间的交流和合作。未来，我们将继续围绕科学研究的前沿问题、核心问题和热点问题进行深入探讨，也期待与更多的学界同仁、专家学者进行学术交流和合作，共同为社会发展与学术创新创造积极贡献。
