跳到正文
原文
钛媒体· 半导体产业纵横·· 4 天前精选AI 评分57

大模型一体机开始缩水:671B满血版退场,轻量AI BOX成出货主力

大模型一体机,开始缩水了

AI 导读

大模型一体机市场从追捧可运行671B满血模型的高端机型转向轻量化,多数中端设备最多运行70B级模型,AI BOX类本地部署设备兴起。文中列出四点原因:知识库问答、公文写作等需求靠蒸馏小模型即可满足,MoE稀疏激活与蒸馏量化提升了能力密度,2025年4月H20芯片被无限期停售且国产加速卡单卡跑不动超大MoE模型,内存等硬件涨价抬高本地部署成本。

推荐理由

文章梳理大模型一体机从满血版转向轻量化的四重原因,并对比高端与轻量设备各自的适用场景,可帮助读者判断采购分层。

来源:钛媒体 · tmtpost.com