FPGA线上课程平台｜最全栈的FPGA学习平台｜FPGA工程师认证培训
登录
首页-所有问题-其他-正文

FPGA 实现 AI 大模型推理加速，目前面临的主要技术瓶颈是什么？如何突破？

EE学生一枚EE学生一枚
其他
3个月前
0
0
112
最近看到很多公司都在搞 AI 大模型，但推理成本很高。听说 FPGA 在低功耗、低延迟推理上有优势，想了解目前用 FPGA 来加速像 GPT、LLaMA 这类大模型的实际挑战有哪些？是模型太大放不下，还是编译器工具链不成熟？对于想进入这个方向的工程师，应该从哪些方面着手准备？
EE学生一枚

EE学生一枚

这家伙真懒，几个字都不愿写！
117891.62K
分享：
芯片行业里的“FPGA 原型验证”和“FPGA 应用开发”岗位，工作内容和发展路径有什么本质区别？上一篇
FPGA 在机器视觉和工业检测中的实时性优势，具体体现在哪些算法或环节上？下一篇
FPGA线上课程平台｜最全栈的FPGA学习平台｜FPGA工程师认证培训
还没有人回答，第一个参与下？
我要回答
回答被采纳奖励100个积分
FPGA线上课程平台｜最全栈的FPGA学习平台｜FPGA工程师认证培训
请先登录