与时俱进
蚂蚁数科ToB服务马拉松:AI破局,Web3深耕
从大模型应用角度出发,面对单点算力/显存的天花板,构建大规模Scale Up 系统,通过并行计算技术(如专家并行、张量并行)将模型权重与KV Cache拆分到多个AI芯片上协同工作,在赵帅看来,这种路径是解…
时间会给出答案。
10/31 16:58
10/31 16:56
10/31 16:55