富瀚微:边缘侧部署推理模型达商用能力后会在芯片方面应用

北京商报   2023-04-21 07:18:49


(资料图)

北京商报讯(记者 陶凤 王柱力)4月19日,针对ChatGPT引发的大模型变革,富瀚微表示:大模型目前重点在云端训练和云端推理这一块。边缘侧要部署大模型应用,主要是在推理方面。这方面工作,业内公司包括我们芯片公司正在积极研究论证,等到边缘侧部署推理模型达到一定商用能力后,我们会在芯片方面采取应用。

精彩推送