将入学考试题搬进中文大模型数据集20477道题目还带4个候选答案

　　本文提出了 M3KE 基准数据集，以零样本、少样本形式测试中文大模型对于多级多学科知识的掌握能力。

　　随着中文大规模语言模型在自然语言理解与自然语言生成方面展现出强大的性能，现有针对特定自然语言处理任务的中文评测基准数据集已经不足以对中文大模型进行有效地评估。传统的中文评测基准主要关注模型对于简单常识（如雨天出门需要带伞）和表层语义（如篮球比赛的报道是体育类还是科技类新闻）的理解能力，而忽略了人类复杂知识的挖掘和利用。目前，针对中文大模型复杂知识评测的数据集十分匮乏，特别是涉及我国教育体系下不同层次和不同领域的专业知识。

　　M3KE 收集了 20,477 个真人标准化考试题目（包含 4 个候选答案），覆盖 71 个任务，包括小学、初中、高中、大学、研究生入学考试题目，涉及人文、历史、政治、法律、教育、心理学、科学、工程技术、艺术等学科，分布如 Fig 1 所示。

　　研究人员模仿中国学生的教育经历，即小学、初中、高中、大学等主要教育阶段，旨在评估中文大模型在不同教育阶段下的表现。由于每个教育阶段需要掌握的知识点不同（例如，在语文学科中，小学和初中的知识或考点存在明显的差异），因此，M3KE 在不同教育阶段会包含相同的学科。为了提高数据集中学科知识点的覆盖范围，研究人员选择了中国升学考试中的统考试题，包括小升初、中考、高考，研究生入学考试和中国公务员考试等线，覆盖多学科领域

　　为提高数据集的学科覆盖率，研究人员基于人文艺术、社会科学和自然科学三大类进行构建，包括：文学、理学，历史、政治、法学、教育学、心理学、科学、工程技术、艺术等学科。为进一步拓展数据集的丰富度，研究人员补充了中医、宗教以及计算机等级考试等任务。

　　Table 3 显示了 M3KE 的整体统计数据。上述四个学科类别中的任务数量分别为 12、21、31 和 7，而四个学科类别中的问题数量分别为 3,612、6,222、8,162 和 2,126。任务中包含的问题最大数量为 425，最小数量为 100。社会科学和自然科学的问题通常比艺术与人文学科和其他科目的问题更长，而它们的答案选项较短。

　　人文与艺术学科包括语文、艺术和历史等多个领域的学科。这些学科注重对文学和文化文物的分析和解释等，以小学语文为例，考试题目旨在评估 7 至 13 岁学生的语言运用和文学欣赏能力，如使用同义词和反义词的能力。历史学科则涵盖从古代到现代的中国和世界历史。除人文学科外，M3KE 还包括艺术科目，如舞蹈、美术、音乐、电影等，艺术是人类文化的重要组成部分，评测中文大模型在艺术领域的表现同样重要。

　　从尼德兰革命到法国大革命历时两个多世纪，而此后仅半个世纪资本主义就初步形成了一个世界体系，这主要是因为？

　　社会科学重在人文学科的应用，如法律、政治、教育和心理等学科。政治课程贯穿初中、高中、大学、研究生多个教育阶段，其他学科则主要分布在大学阶段的课程中。社会科学还包括经济和管理学任务，这些任务的试题选自中国研究生入学考试中的经济学联考和管理学联考，知识涉及微观经济学、宏观经济学、管理学和逻辑学等。

　　甲欲杀乙，将毒药投入乙的饭食中。乙服食后，甲后悔，赶紧说明情况，并将乙送往医院抢救。医院在抢救过程中检查发现，甲所投放的 毒药 根本没有毒性，乙安然无恙。甲的行为属于？

　　自然科学包括工程学、科学、医学和数学、物理学、化学、生物学等基础学科。这些学科通常需要复杂的计算、分析和逻辑推理能力。在我国教育体系中，同一学科在不同阶段会涉及不同类型的知识。例如，小学数学主要学习基本的算术运算，而高中数学则涵盖更高级的数学概念，如数列、导数、几何等。

　　其他类型的任务包括宗教、中国公务员考试，计算机等级考试等。这些任务需要的知识不局限于上述单一层次或学科的知识。如中国公务员考试涉及常识、人文、逻辑等知识，因此研究人员将这些任务视为对中文大模型综合知识的评估。

　　以前有几项研究表明，食用巧克力会增加食用者患心脏病的可能性。而一项最新的、更为可靠的研究得出的结论是：食用巧克力与心脏病发病率无关。估计这项研究成果公布以后，巧克力的消费量将会大大增加。上述推论基于以下哪项假设？

　　研究人员按照中国教育体系对数据集进行了分阶段，包括小学、初中、高中、大学及研究生入学考试。同样，研究人员还选择一些教育体系外的考试科目，如计算机等级考试和中国公务员考试等。

　　B. 《邹忌讽齐王纳谏》选自《战国策》，《战国策》是战国时游说之士的策谋和言论的汇编，由东汉的刘向编订为三十三篇

　　C. 词又称 “长短句”，句式长短不一。兴盛于宋代，苏轼和辛弃疾是豪放派的代表人物，而李清照是婉约派的代表人物

　　班级要以 “崇尚法治精神” 为主题制作黑板报，小兰负责 “践行平等” 版块内容的编写。以下她搜集的素材适合入选的是？

　　沈括在《梦溪笔谈》中说道：“天地之变，寒暑风雨，水旱螟蝗，率皆有法。” 这句话的哲学寓意是？

　　因某工作表数据非常多，在滚动浏览时第一行的标题无法始终看到，应如何操作才能始终看到标题行，最快捷的方法是？

　　GLM-335M/10B/130B，由清华大学开发的预训练大语言模型，支持中、英文双语。研究人员选择 GLM 中文版的三个模型，参数规模分别为 335M, 10B 和 130B。

　　BLOOM-7.1B，Hugging Face 推出的多语言大模型，由数百名研究人员合作开发。

　　ChatGLM-6B，由清华大学开发的语言模型，使用指令数据微调，并通过基于人类反馈的强化学习进一步训练。

　　GPT-3.5-turbo，由 OpenAI 开发的语言模型。采用人工构建的高质量指令数据，进行人类反馈强化学习训练。

　　在零样本设置条件下，模型要求直接回答问题；在少样本设置条件下，会预先给定模型同任务的若干示例，引导模型进行情景学习（In-Context Learning）。在 M3KE 中，所有题目均使用准确率计算得分。

　　1，在零样本评估中（Table 4&6），所有参数小于 10B 的预训练语言模型（未经过微调）准确率都低于随机结果（25%），少样本的设置（Table 5&7）有助于模型性能的提升。但是，GLM130B 在零样本评估的结果好于少样本评估结果，原因可能是 GLM130B 在预训练阶段已经使用了部分指令数据，使其已经具备较好的零样本学习能力。

　　2，大部分经过微调后的中文大模型仅达到随机结果（25%）水平，即使在小学阶段的测试中（Table 6&7）。这说明较低教育阶段中的知识仍然是当前中文大模型的短板之一。

　　3，在零样本评估中，BELLE-7B-2M 取得了中文大模型中最好的成绩，但仍然与 GPT-3.5-turbo 有 14.8% 的差距。此外，有监督微调指令的数量也是一个重要的因素，经过两百万指令微调的 BELLE-7B-2M 好于经过二十万指令微调的 BELLE-7B-0.2M（Table 4）。

　　4，少样本的设置在大多数情况下并没有带来性能的改善（Table 5&7 vs Table 4&6），尤其是经过指令微调或基于人类反馈的强化学习训练后的语言模型。这表明对预训练语言模型进行指令微调可以显著提升语言模型的零样本学习能力，不需要额外的示例就能理解指令或问题的意图。

　　研究人员提出了一个新的基准 M3KE，用于评估中文大模型在多个学科和不同教育阶段下中文大模型知识掌握能力。M3KE 包含 71 个任务和 20,447 个问题。研究人员发现，所有参与评估的开源中文大模型都明显落后于 GPT-3.5。研究人员希望 M3KE 有助于发现中文大模型的知识漏洞，促进中文大模型进一步的发展。

　　原标题：《将入学考试题搬进中文大模型数据集，20477道题目，还带4个候选答案》