豆包大模型出手,推理成本最高可降低83%!概念股“闻风”集体大涨
2025年02月12日 | 浏览量:49367
(原标题:豆包大模型出手,推理成本最高可降低83%!概念股“闻风”集体大涨)

图片来源于网络,如有侵权,请联系删除
2月12日,豆包概念股午后大幅走强,创业板汉得信息(300170.SZ)拉升封板,润欣科技(300493.SZ)、移远通信(603236.SH)等纷纷大幅冲高。

图片来源于网络,如有侵权,请联系删除
Wind数据显示,抖音豆包指数(8841129.WI)今日大涨1.43%,板块内约8只个股涨超5%。

图片来源于网络,如有侵权,请联系删除
消息方面,据“豆包大模型团队”微信公众号,字节跳动豆包大模型Foundation团队近期提出UltraMem,该架构有效解决了MoE推理时高额的访存问题,推理速度较MoE架构提升2―6倍,推理成本最高可降低83%。
据了解,随着模型规模的扩大,推理成本和访存效率已成为限制大模型规模应用的关键瓶颈。在Transformer架构下,模型的性能与其参数数量和计算复杂度呈对数关系。随着LLM规模不断增大,推理成本会急剧增加,速度变慢。
为此,字节跳动豆包大模型Foundation团队提出UltraMem,一种同样将计算和参数解耦的稀疏模型架构,在保证模型效果的前提下解决了推理的访存问题。
目前,这项创新成果已被机器学习和AI领域的顶级会议ICLR 2025接收,为解决大模型推理效率和扩展能力问题提供了全新思路。
公开资料显示,字节跳动豆包大模型团队成立于2023年,致力于开发先进的AI大模型技术,成为世界一流研究团队,为科技和社会发展作出贡献。团队研究方向涵盖深度学习、强化学习、LLM、语音、视觉、AInfra等,在中国、新加坡、美国等地设有实验室和岗位。
今日,一则消息再度引爆抖音豆包概念,南财快讯带你一图速览↓↓↓

(声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。)
本文来源:悠享生活网
本文地址:https://www.xcydns.com/post/2472.html
关注我们:微信搜索“xiaoqihvlove”添加我为好友
版权声明:如无特别注明,转载请注明本文地址!
- •集运欧线突然大跌16%,啥情况?分析师:可能有两大原因
- •纳指再创新高,纳斯达克指数ETF(159501)早盘飘红,近10个交易日累计“吸金”超8亿元丨ETF观察
- •农业板块活跃,农业50ETF、粮食50ETF涨超2%
- •A股三大指数早盘集体调整,新能源ETF基金(516850)收平,中材科技涨停
- •AI广告股AppLovin一年涨超600%!A股“影子股”是它,今日20CM涨停
- •芯片股午后爆发,芯片产业ETF(159310)涨近3%,机构:持续看好受益先进算力芯片快速发展的HBM产业链
- •ETF基金日报丨电池主题相关ETF涨幅居前,机构:锂电行业基本面边际好转趋势明确
- •香港科技ETF(159747)涨2.9%,中金测算今年南向资金流入空间还有约6000亿-8000亿港元
- •公告精选丨嘉必优:拟购买欧易生物65%股权,明起复牌;英搏尔:与亿航智能签署战略合作协议
- •ETF每日观察(12月25日)|银行板块ETF维持强势,深交所旗下深证信息发布新指数

