BitNet为边缘AI的加速普及带来新活力。
用户通过 bitnet.cpp框架，不需要借助 GPU，也能在本地设备上运行具有 1000 亿参数的大语言模型，实现 6.17倍的速度提升，且能耗可以降低 82.2%。 bitnet.cpp支持 1-bi…
08/20 10:25
08/20 10:24
08/20 10:23
08/20 10:22
京公网安备 11011402013531号