FPGA线上课程平台|最全栈的FPGA学习平台|FPGA工程师认证培训
登录
首页-技术文章/快讯-硬件设计
硬件设计总数:1
MoE推理硬件设计指南:从Transformer到混合专家的架构实现

MoE推理硬件设计指南:从Transformer到混合专家的架构实现

随着大语言模型(LLM)参数规模突破万亿,传统密集Transformer架构在推理时面临严峻的计算与访存瓶颈。混合专家(MixtureofExperts,MoE)架构通过条件…
二牛学FPGA二牛学FPGA
技术分享
5小时前
10
0
0
0
开放