【TechWeb】5月25日音信,面壁智能晓示联清华大学、OpenBMB开源社区,施展发布并开源其在低比特大模子磨练向的新后果——BitCPM-CANN。
这款个基于国产算力平台华为昇腾杀青端到端磨练并开源的三值(1.58-bit)大模子,继5月23日在华为鲲鹏昇腾开荒者大会(KADC 2026)完成次技能亮相后,当天施展将其全系列模子向全社会通达。
据先容,比较传统 BF16 精度,BitCPM-CANN 在理阶段开释约6倍显存红利,同期将模子智力保留率保管在90–97.2。相通的建树内存,不错承载远以往的模子智力;大概反过来说,相通的模子智力在同款终局上启动,只需要夙昔 1/6 的内存。这意味着,畴昔有望在手机上启动 60B 大模子,手机的智能会大幅进步。
「2-bit」是连年来端侧芯片行业的热点商酌话题,亦然在手机上启动大参数模子的大技能卡点之。2-bit 量化将模子权重压缩 6-8 倍,异型材设备使其能存脱手机闪存,如 4GB 内存能放 16B,再配 MoE 与激活规模抑制、能放 32B;若内存扩大到 8GB,则能将模子参数扩大到 60B。
手机:18631662662(同微信号)面壁智能示意,BitCPM-CANN 的亮相,象征着面壁智能大模子「小钢炮」在端侧落地的智力逾越跃升,同期也通过开源向端侧大模子赛说念提交了份新的答卷。
声明:网稿件,未经授权阻拦转载。 --> 相关词条:铁皮保温施工 隔热条设备 锚索 离心玻璃棉 万能胶生产厂家1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》资阳隔热条PA66,以此来变相勒索商家索要赔偿的违法恶意行为。