发布日期: 2024-10-31
据先容,“星火一体机”是邦产软硬件一体化的私有专属大模子治理计划,开箱即可利用,供给从底层算力、AI框架、教练算法、推理才具、行使收获等全栈AI才具,助助企业打制专属大模子。
星火一体机的教练和推理一体化布置,可用于问答体例、对话天生、学问图谱修建、智能推选等众个范围的行使,具备大模子预教练、众模态懂得与天生、众职业研习和迁徙等才具。
目前,星火一体机内已涵盖办公、代码、运维、客服、营销、采购等10众个场景包,助助对话开采、职业编排、插件履行、学问接入、提示工程等5种定制优化形式,并将连接拓展更众专业场景和形式优化,为客户火速定制企业专属大模子。
星火一体机还针对星火认知智能大模子的教练算法和推理行使举办了硬件的量身定制,可大大低落企业的利用本钱。
科大讯飞董事长刘庆峰正在宣告会上示意,认知大模子的深度赋能时期依然到来,大模子正在企业深度行使的三个合头因素是:第一,太平可控:内容太平,要有无误代价观,算力太平,要正在齐备自立可控的平台前进行;第二,场景驱动:正在看得睹摸得着的场景爆发实实正在正在的代价,并不妨用数据去注明收获;第三,专属定制:内容般配需求,基于行业和企业的私域数据修建私有化专属大模子,晋升行使成就。
企业行使大模子并不是盲目追风口,要从自己需求启程,让大模子真正勾结营业,晋升效率、创建代价。场景驱动和专属定制是企业大模子的本原,而太平可控则是底线日,中共中间政事局聚会就夸大:“注意通用人工智能生长,营制创重生态,注意防备危害”;2023年7月,7部委连合宣告《天生式人工智能供职束缚暂行想法》,再次夸大“生长和太平并重”。
正在内容太平方面,星火一体机基于讯飞星火认知大模子,针对污语料和幻觉题目,造成立体化的“内容太平机制”。无监视的互联网语料,颠末语句判别器、质地判别器、隐私判别器、太平判别器等合卡,获得洗涤后的高质地文本;为分解决“幻觉题目”,科大讯飞针对种种型职业修建专业学问库,以类搜寻插件技艺杀青学问获取,基于大模子的懂得和详尽摘要才具给出谜底。
正在算力太平上,星火一体机基于昇腾AI硬件、昇思AI开源框架,供给业界领先的大模子教练、推理才具,为大模子全流程更始供给坚实的自立更始算力底座。
大模子的研发历程,须要能够支柱千亿参数周围的大模子并行教练的算力和框架,还须要几千张卡同时衔接运转。基于此,体例架构以及并行教练的集群才具成为邦内大模子研发的合头。
正在本年的7月6日,科大讯飞就宣布讯飞星火将与昇腾AI强强连合,打制基于中邦自立更始的通用智能新底座。一方面,讯飞星火认知大模子基于教练推理一体化计划,杀青大模子稀少化、低精气量化的技艺打破,能高效适配昇腾AI,加快大模子的行业落地行使和迭代;另一方面,以昇腾AI为主旨,软硬件协同优化,修建算力荟萃、职能出色、供应巩固、数据太平的大模子教练集群。
此次宣告的星火一体机,是科大讯飞与华为正在AI算力、大模子的团结落地之一,将面向行业、企业客户,供给基于专用数据的自立可控私有化大模子,加快胀吹重心企业的数智化转型升级。邦产大模子唯有基于中邦自立更始的算力底座才有大他日。之后,两边将连接深化团结,放眼环球,连合攻合算力邦产化主旨困难,杀青从单点算力到集群算力、从节点更始到体例更始。