头像

小颍神

帅气的我简直无法用语言描述!

PyTorch造大模型“加速包”,不到1000行代码提速10倍!

西风 发自 凹非寺量子位 | 公众号 QbitAIPyTorch团队让大模型推理速度加快了10倍。且只用了不到1000行的纯原生PyTorch代码!项目名为GPT-fast,加速效果观感是这样婶儿的...
头像15小时前
1000