克日,上海岩芯数智人工智能科技无限公司(以下简称RockAI)的Yan架构年夜模子胜利经由过程《天生式人工智能效劳治理暂行措施》存案,这是海内首个非Transformer架构年夜模子经由过程存案。Yan模子简介Yan架构年夜模子是海内首个非Transformer架构、非Attention机制的年夜模子。传统的Transformer架构跟Attention机制对算力请求较高,而Yan架构年夜模子以MCSD、类脑激活机制为基本道理,年夜幅晋升模子机能与效力,以3B参数目可到达Llama3 8B的程度,还可在CPU上运转安排。MCSD架构存在疾速练习、推理才能,实现更高效的特点提取,类脑激活机制则模仿年夜脑中的神经元激活形式,在盘算时抉择性激活局部参数,增加算力冗余,更高效地处理成绩。Yan架构年夜模子在保障机能的同时,无效下降了对算力的依附。这不只有助于进步模子的运转效力,还能下降本钱,为更多企业跟开辟者供给了触手可及的AI处理计划。存案经由过程的代价因而,Yan架构年夜模子经由过程存案对RockAI以及行业开展均存在主要代价。· 为行业开展开拓新的技巧门路作为海内首个非Transformer架构、非Attention机制年夜模子实现网信办存案,为行业开展开拓了新的技巧门路。· 证实非Transformer技巧道路的潜力证实在算力受限的情形下,非Transformer架构技巧道路的可行性跟潜力,从而可能激励更多企业摸索多元化的技巧开展偏向。· 业内独一一家同时领有双机制模子RockAI成为独一一家非Attention机制年夜模子跟Attention机制年夜模子均存案经由过程的厂商,彰显了其在AI技巧研发方面的翻新才能。Yan落地情形技巧冲破之外,贸易落地层面Yan架构年夜模子也获得了明显结果。依靠低算力请求、当地安排、无损运转等上风,RockAI已与呆板人、无人机、手机、电脑等范畴的装备厂商树立深度配合,并在上述范畴落地多个名目。RockAI在年夜模子范畴以“群体智能”的理念构建通用人工智能技巧,以“让天下上每一台装备领有本人的智能”为任务,努力于打造群体智能单位年夜模子,实现AI普惠。Yan架构年夜模子的存案经由过程是RockAI践行任务的主要里程碑,将来,咱们等待Yan架构年夜模子在更多装备单位安排利用,让群体智能引领走向通用人工智能,与配合搭档一同,当先一步开辟愈加辽阔的市场空间。 申明：新浪网独家稿件，未经受权制止转载。 -->小编：[db:摘要]
当前网址：https://www.tianyuanqing.com//tutorials/web/2024/1212/138.html
