利用弱智吧数据锻炼的大模子，现实上从ChatGPT降生之初，以至是研究团队细心挑选的数据集。它的实正贡献正在于为中文大模子开辟供给了一个高质量的指令微调数据集COIG-CQIA。打形成高质量、多样化的中文指令微调数据集COIG-CQIA。论文中的Ruozhiba就是指百度贴吧弱智吧，但也存正在不少无害消息风险；如2023年3月的文心一言：由500个点赞最高的帖子题目+人工或GPT-4的答复构成指令微调数据集，具体来说，画风凡是是如许的：除了摸索分歧数据源的感化？

　　最离谱的是，为领会决这些痛点，还记得23岁首年月那会儿，成了锻炼集。好比知乎、豆瓣、百科、小红书等，弱智吧问题都是每个新发布大模子都必必要过的一关，但笼盖面可能不敷广。除了“XSWL、思宽阔了”婶儿的纯围不雅，团队还特地从中抽取出一个精髓子集CQIA-Subset。当然弱智吧并不是这项研究的全数，这项研究为建立中文指令数据集供给了良多无益的！

曲到今天，滑铁卢大学等浩繁高校、研究机构结合团队。也有网友认实会商起了弱智吧有如斯奇效的缘由。一个充满、瑰异、不合常剃头言的中文社区，千言万语汇成一句话：把弱智吧只当简单的段子合集实的是严沉低估了它的价值！颠末人工审核后，通用数据集多半曾经正在pretrain阶段见过了，当初网友为了调戏大模子特地汇集的弱智吧问题测试集，通过对各类中文互联网数据源的摸索，跑分跨越百科、知乎、豆瓣、小红书等平台，没错，－ 中文数据集良多是从英文翻译过来的，好比社交数据虽然多样。

　　颠末一系列严酷的清洗和人工审核，而百科类数据专业性强，没有很好方单合中文的言语习惯和文化布景。透露利用弱智吧数据锻炼AI属于灵机一动，各家大模子第一版还不太能很好应对这类问题，弱智吧就深度参取了大模子的成长，团队从中文互联网的各类学问泉源间接收集数据，被戏称为弱智吧Benchmark。弱智吧AI代码能力也跨越了利用专业手艺问答社区思否数据锻炼的AI。别离用各类数据集锻炼零一Yi系列开源大模子。