360推出14B、7B推理大模型 最低1000多元实现本地化部署应用

2025-03-21 13:36 来源:中国网科技

  360集团智脑团队近期发布14B、7B推理模型Light-R1。其中14B模型在数学(AIME 24/AIME 25)和科学推理(GPQA Diamond)测试中,得分大幅超过DeepSeek发布的14B版本,同时稳超目前行业中同级别推理模型,能力甚至比肩DeepSeek R1 32B版本。行业人士认为,360发布14B和7B模型,可推动大模型在本地设备部署,有助于推动大模型的全面普及和使用。

  根据业界权威基准测试的结果,Light-R1 14B数学能力测试达到了满血版DeepSeek 671B的92%,推理和科学知识达到了DeepSeek满血版的86%。这意味着14B模型以DeepSeek R1满血版仅2%的参数量,在一些领域实现了其90%关键性能。同时,Light-R1 7B模型的数学能力可以达到DeepSeek 70B蒸馏版本的84%,科学知识和推理达到70B的75%。

  当前一些政企机构在使用DeepSeek满血版时,面临着数据安全问题,既想让大模型更懂企业,又不造成核心数据面临泄露风险,本地部署大模型已成为众多政企用户的实际需求。但一个现实是,能运行DeepSeek R1 6710亿参数满血版的一体机,动辄需要数十万上百万元成本,这在很大程度上制约了大模型的本地化部署进程。

  在360智脑的14B、7B模型开源之后,无论政企单位还是个人,仅通过平民级显卡就可以在普通电脑上实现部署。例如,英伟达3060显卡支持7B模型流畅运行,这款显卡的售价目前仅有一千多元,而售价六千多元的3090显卡可以运行14B模型。这意味着一年前还需要数千万元成本的大模型,目前只需要几千元成本就能落地部署。业界判断,随着7B、14B这样的小参数大模型陆续开源,大模型的私有部署还将进一步普及,中小企业和个人用户只用极小成本,就可以轻松拥有一个个头小、能力大的一流推理模型。

  当前,政企组织对大模型的需求多种多样,需要响应快速,跟政企知识库连接,还得保证数据安全,成本可控。企业在接入360智脑的14B、7B模型后,将实现大模型能力在每个部门甚至每个小组的应用,各类需求都将匹配到专属场景的大模型。

  对个人用户而言,只需要一台普通家用电脑,搭配上玩游戏的显卡,就能把14B、7B模型装到家里,用户可以将大模型用于学习和工作场景,满足个性化需求。

  360集团创始人周鸿祎表示:“希望14B、7B模型能进入千家万户,深入百行千业,让每个人都能拥有一个强大的AI,实现人人AI,加速中国AI的普惠进程。”

  据了解,360智脑还将推出多种参数的大模型,为用户本地部署大模型提供更多选择。

  

查看余下全文
(责任编辑:马先震)
手机看中经经济日报微信中经网微信
当前位置      首页 > 公司观察  > 正文
中经搜索

360推出14B、7B推理大模型 最低1000多元实现本地化部署应用

2025年03月21日 13:36    来源: 中国网科技    

  360集团智脑团队近期发布14B、7B推理模型Light-R1。其中14B模型在数学(AIME 24/AIME 25)和科学推理(GPQA Diamond)测试中,得分大幅超过DeepSeek发布的14B版本,同时稳超目前行业中同级别推理模型,能力甚至比肩DeepSeek R1 32B版本。行业人士认为,360发布14B和7B模型,可推动大模型在本地设备部署,有助于推动大模型的全面普及和使用。

  根据业界权威基准测试的结果,Light-R1 14B数学能力测试达到了满血版DeepSeek 671B的92%,推理和科学知识达到了DeepSeek满血版的86%。这意味着14B模型以DeepSeek R1满血版仅2%的参数量,在一些领域实现了其90%关键性能。同时,Light-R1 7B模型的数学能力可以达到DeepSeek 70B蒸馏版本的84%,科学知识和推理达到70B的75%。

  当前一些政企机构在使用DeepSeek满血版时,面临着数据安全问题,既想让大模型更懂企业,又不造成核心数据面临泄露风险,本地部署大模型已成为众多政企用户的实际需求。但一个现实是,能运行DeepSeek R1 6710亿参数满血版的一体机,动辄需要数十万上百万元成本,这在很大程度上制约了大模型的本地化部署进程。

  在360智脑的14B、7B模型开源之后,无论政企单位还是个人,仅通过平民级显卡就可以在普通电脑上实现部署。例如,英伟达3060显卡支持7B模型流畅运行,这款显卡的售价目前仅有一千多元,而售价六千多元的3090显卡可以运行14B模型。这意味着一年前还需要数千万元成本的大模型,目前只需要几千元成本就能落地部署。业界判断,随着7B、14B这样的小参数大模型陆续开源,大模型的私有部署还将进一步普及,中小企业和个人用户只用极小成本,就可以轻松拥有一个个头小、能力大的一流推理模型。

  当前,政企组织对大模型的需求多种多样,需要响应快速,跟政企知识库连接,还得保证数据安全,成本可控。企业在接入360智脑的14B、7B模型后,将实现大模型能力在每个部门甚至每个小组的应用,各类需求都将匹配到专属场景的大模型。

  对个人用户而言,只需要一台普通家用电脑,搭配上玩游戏的显卡,就能把14B、7B模型装到家里,用户可以将大模型用于学习和工作场景,满足个性化需求。

  360集团创始人周鸿祎表示:“希望14B、7B模型能进入千家万户,深入百行千业,让每个人都能拥有一个强大的AI,实现人人AI,加速中国AI的普惠进程。”

  据了解,360智脑还将推出多种参数的大模型,为用户本地部署大模型提供更多选择。

  

(责任编辑:马先震)


鍒嗕韩鍒帮細
    中国经济网声明:股市资讯来源于合作媒体及机构,属作者个人观点,仅供投资者参考,并不构成投资建议。投资者据此操作,风险自担。
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

鍏充簬缁忔祹鏃ユ姤绀� 锛� 鍏充簬涓浗缁忔祹缃� 锛� 缃戠珯澶т簨璁� 锛� 缃戠珯璇氳仒 锛� 鐗堟潈澹版槑 锛� 浜掕仈缃戣鍚妭鐩湇鍔¤嚜寰嬪叕绾� 锛� 骞垮憡鏈嶅姟 锛� 鍙嬫儏閾炬帴 锛� 绾犻敊閭
缁忔祹鏃ユ姤鎶ヤ笟闆嗗洟娉曞緥椤鹃棶锛�鍖椾含甯傞懌璇哄緥甯堜簨鍔℃墍    涓浗缁忔祹缃戞硶寰嬮【闂細鍖椾含鍒氬钩寰嬪笀浜嬪姟鎵€
涓浗缁忔祹缃� 鐗堟潈鎵€鏈�  浜掕仈缃戞柊闂讳俊鎭湇鍔¤鍙瘉(10120170008)   缃戠粶浼犳挱瑙嗗惉鑺傜洰璁稿彲璇�(0107190)  浜琁CP澶�18036557鍙�

浜叕缃戝畨澶� 11010202009785鍙�