此外，请注意你的显卡上可能同时运行有其他程序，比如桌面环境或小红车，它们也会占用一定的显存资源。 开始部署llama.cpp server 下载Sakura GUI启动器，将exe文件放进sakura文件夹。感谢@PiDanShouRouZhouXD开发。下载链接。 双击运行Sakura GUI启动器。 进入下载页面 ...

IT之家10 月 27 日消息，继今年 9 月开源 Llama 3.2 的 1B 与 3B 模型之后，Meta 于 10 月 24 日发布了这两个模型的量化版本，量化后的模型大小平均减少了 56%，RAM 使用量平均减少了 41%，模型速度提高了 2 至 4 倍，同时降低了功耗，使这些模型能够部署到更多移动设备上。