BitNet为边缘AI的加速普及带来新活力。
用户通过 bitnet.cpp框架,不需要借助 GPU,也能在本地设备上运行具有 1000 亿参数的大语言模型,实现 6.17倍的速度提升,且能耗可以降低 82.2%。 bitnet.cpp支持 1-bi…
11/24 16:08
11/24 16:07
10/31 16:58
10/31 16:56