中央民族大学国家语言资源监测与研究民族语言中心在会上成功发布了“大模型安全评测”任务,这是“国家语言文字研究基地20年”系列活动之一。
作为国家语委科研机构,国家语言资源监测与研究民族语言中心始终关注国家民族语言事业,服务国家战略,围绕国家语言文字政策、国家语言信息安全以及传承中华民族优秀文化等方面开展工作。生成式人工智能的快速发展为民族语言文字事业同时带来了机遇和挑战,大模型的扩展使用不仅影响着人类的认知、沟通和决策,也塑造着人类的价值观、信念和行为,通过前期研究发现多数模型都存在一定程度的安全隐患,因此,大模型安全评测任务同时聚焦多民族语言大模型的基础能力评测和安全评测。未来工作组将一方面补全大模型基础能力评测数据,一方面针对大模型的安全问题进行深入研究,补充数据的基础上实现对更多开源模型的意识形态安全风险评估,并公开发布上述评测任务,邀请学界、业界共同参与。这也是国家语言资源监测与研究民族语言中心向“国家语言文字研究基地20年”活动的献礼!