“本源悟空”全球首次运行十亿参数级AI大模型微调任务
中新社合肥4月7日电 (记者 张俊)记者7日从安徽省量子计算工程研究中心获悉,中国第三代自主超导量子计算机“本源悟空”近日完成全球首次运行十亿参数级AI大模型微调任务。
本次任务由本源量子计算科技(合肥)股份有限公司(简称“本源量子”)、合肥综合性国家科学中心人工智能研究院等联合攻关完成的。实验结果显示,在参数量减少76%的前提下,AI大模型训练效果反而提升8.4%。这一成果不仅验证了量子计算助力实现大模型轻量化的可行性,更为破解大模型“算力焦虑”开辟了新路径。
大模型微调是指在通用大模型的基础上,通过进一步训练特定领域数据,使其适应医疗诊断、金融风控等专业场景。传统低秩微调面临性能瓶颈、泛化能力有限等问题,量子计算凭借其叠加态和纠缠态特性可同时探索海量参数组合,提升大模型微调的效率。
本源量子副总裁窦猛汉介绍,团队创新设计了一种量子加权张量混合参数微调的方法,将模型权重转化为量子神经网络与张量网络混合架构,前者通过量子门操作提取高维非线性特征,张量网络则压缩参数规模。
在“本源悟空”的量子芯片上,AI大模型单批次数据可生成数百个量子任务并行处理。实验数据显示,优化后的模型在心理咨询对话数据集上训练损失降低15%,数学推理任务的严格准确率从68%提升至82%。合肥综合性国家科学中心人工智能研究院副研究员陈昭昀表示,这是量子计算首次“真机实战”AI大模型任务,证明现有硬件已能初步支撑大模型微调。
截至目前,“本源悟空”超导量子计算机全球访问已覆盖139个国家和地区,完成35万个量子运算任务,涵盖流体动力学、金融、生物医药等多个行业领域。(完)
- 青年博士的科研路:在深耕中凝练方向 在思辨中突破桎梏
- 第二十七届海峡两岸经贸交易会将在福州举办
- 作风建设重在化风成俗(深入学习贯彻习近平新时代中国特色社会主义思想)
- 有人因此“毁容”!遇到这种虫子千万不能拍
- 从“硒”出发 专家学者聚首河南济源共探硒产业新发展机遇
- 促排卵会造成卵巢早衰?一次取几个卵泡合适?听专家科普
- 今年前4个月两岸进出口贸易额同比增长14.7%
- 习言道|新时代的中俄关系更加从容自信、稳定坚韧
- 孩子长大哮喘自然就好了?别信!医生提醒→
- 中国科学院团委举办青年先进典型宣讲活动
- 习近平指出,中俄双方要坚持合作大方向,排除外部干扰,让合作“稳”的基础更坚实、“进”的动能更充足
- “数理+AI+工程”打造未来卓越工程师 上海交大推出首届“笛卡尔班”
-
“把脉会诊”助力智慧田管 “数智”良方夺高产 农业焕发新活力
2015.12.16 -
运动是加速衰老,还是延缓衰老?真相揭开
2015.12.16 -
钙含量是牛奶近8倍的“补钙王者” 吃它这一点要注意
2015.12.16 -
新华图讯丨习近平出席俄罗斯纪念苏联伟大卫国战争胜利80周年庆典
2015.12.16