BitNet为边缘AI的加速普及带来新活力。
用户通过 bitnet.cpp框架,不需要借助 GPU,也能在本地设备上运行具有 1000 亿参数的大语言模型,实现 6.17倍的速度提升,且能耗可以降低 82.2%。 bitnet.cpp支持 1-bi…
06/25 00:14
06/25 00:13
06/13 18:29
06/13 18:26
06/13 18:25
06/13 18:23
06/13 18:20
06/13 18:16