12月11日,记者从南京农业大学获悉,该校信息管理学院王东波教授研究团队研发的“荀子”古籍大语言模型发布,这是国内首个专门应用于古籍处理与研究的智能工具,包含了《四库全书》在内的古籍文献超20亿字大型语料库,能够实现自然语言理解、自动翻译、诗歌生成、自动标引等多项功能,作为开源的、公益的研究成果,该模型已在GitHub、ModelScope等网站开源。
输入指令即生成绝妙好诗 一键可将古汉语译成现代汉语
为何取名“荀子”?据王东波介绍,荀子,不仅是我国先秦时期伟大的朴素唯物主义的思想家,也是一位散文大家。在对他作品的深入研讨中团队发现,他在语言学理论的阐述上也是一位开拓者,命名荀子是为了纪念这位中国历史上的语言学先驱。对于普通受众而言,想要走近繁体、竖版、未添加句读的古文不是一件容易的事,而“荀子”的上线意味着在智媒时代,和古籍对话成为可能。
“咱们请它以金陵为主题,生成一首五言古诗。”王东波现场演示了“荀子”的智能写诗功能,指令一输入,系统便生成了一首堪称绝妙的原创古诗:“秦淮佳丽地,城阙望中迷。柳暗青丝发,花香碧玉衣。歌楼留夜色,画阁敛春晖。细雨轻舟去,双鱼梦泽飞。”
除此之外,古文的阅读理解、标点添加,以及将古汉语翻译为现代汉语,这些让受众难啃的“硬骨头”,“荀子”可以轻松拿下。
对于领域专家而言,可以借助“荀子”完成古籍词法分析、实体识别、关系抽取、文本分类与匹配、文本摘要等专业古籍研究处理场景。同时发布的基座模型,还可以让用户根据自己的需求,使用本地的训练语料微调“荀子”基座模型,使其在古籍下游处理任务上取得更优越的处理性能。
投喂40亿字大型混合语料数据 “荀子”算力强大“饱读经书”
尽管目前有200多个通用模型在各领域得到应用,但古籍领域仍缺乏专业的大语言模型。功能强大的“荀子”到底是怎么做到化繁为简、通读古今的呢?“首先是‘算力充足’并且‘饱读经书’!”王东波介绍,“荀子”的顺利问世离不开南京农业大学提供的高性能算力基础设施支持,以及团队长期积累的大量标注、精加工语料库,团队给“荀子”投喂了40亿字大型混合语料数据。
“模型的构建受算力、场景应用等多方影响,但精准度较高的优质数据,是最为关键的。”据王东波介绍,团队从2008年开始接触古籍,2013年至今一直专注于人工精标注数据的工作。“比如《岳阳楼记》,要训练机器标注该典籍中的形容词,就要首先训练相关人员标注形容词,在大量人工标注的基础上,再让机器学习。”这项坐冷板凳的基础标注工作一做就是10年之久。
王东波表示,我们期待能将古籍的智能化研究与跨学科的人才培养相结合,让学生既有前瞻的科研视野,又能积累较为深厚的人文底蕴,同时让更多受众接触古籍、品读古籍、传播古籍,真正地唤活“故纸堆”,共同推动中华优秀传统文化创造性转化和创新性发展,赓续传承中华文脉。
联合发布荀子古籍大语言模型的中华书局古联公司则主要致力于未来的场景应用和领域推广,荀子大模型除让大众用户能够顺畅利用古籍内容,在专业领域推动古籍整理、古籍数字化、古籍活化利用与传播之外,未来还可广泛应用于AI写作、AI教学、数字文娱等领域。
古诗生成
指令:请以金陵为主题,生成一首五言古诗。
输出:秦淮佳丽地,城阙望中迷。柳暗青丝发,花香碧玉衣。歌楼留夜色,画阁敛春晖。细雨轻舟去,双鱼梦泽飞。
添加标点
指令:为下面给出的无标点的古汉语文本添加标点。
输入:诸将皆曰敌闻太傅自来上岸必遁走奉独曰不然
输出:诸将皆曰:“敌闻太傅自来,上岸必遁走。”奉独曰: “不然。”
翻译古文
指令:将下面给出的这段古汉语文本翻译为现代汉语。
输入:大将军凤心不便共王在京师,会日蚀,凤因言“日蚀阴盛之象,为非常异。”
输出:大将军王凤认为共王留在京师对自己不利,正赶上发生了日食,王凤就说:“日食是阴气太盛造成的现象,是不同寻常的灾异。”
扬子晚报/紫牛新闻记者 王赟 通讯员 楠秾宣
编辑 刘丽