在全球人工智能领域的激烈竞争中,摩尔线程(MooreThreads)最近发布了一个令人瞩目的消息:将高效的大语言模型推理框架vLLM成功移植至MUSA平台,进而为国产GPU的应用提供强劲支持。这一举措不仅是国内在AI推理领域的一次重要进展,更是计算行 ...
时间过得很快,转眼现在已经是2024年11月下旬,距离CES 2025大概只有一个多月时间了,很多朋友心心念念的RTX 50系列显卡将在这次活动期间正式发布。最近几个月,坊间有很多关于RTX 50系列显卡的爆料,不过主要集中于高端的GeForce ...
·聚焦:人工智能、芯片等行业欢迎各位客官关注、转发前言:AI驱动的新工具正在重新塑造人类与世界之间的关系。与此同时,AI正承担起将科学从孤立的抽象推理转变为一种更具连结性、多维度的耦合效应。作者 | 方文三图片来源 |  网 络 NVIDIA ...
总的来看,CUDA技术及其衍生出的显卡AI电脑,正以其超强的计算能力为AI的发展提供了坚实的基础。老黄的狂热不仅是对技术的认可,更是对未来无限可能的期待。随着技术的进步,我们无疑将见证人工智能领域更加璀璨的未来。 返回搜狐,查看更多 ...
Hello folks,我是 Luga,今天我们继续来聊一下人工智能生态相关技术 - 用于加速构建 AI 核心算力的 GPU 硬件技术。    ...
快科技11月5日消息,近日,摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本,为开发者提供基于摩尔线程全功能GPU进行开源项目 ...
近期,关于NVIDIA显卡在中国市场的最新动态引起了广泛关注。据Chiphell论坛的爆料者panzerlied透露,中国特供版RTX 5090D在硬件配置上与全球发售的原版RTX 5090保持一致,游戏性能也并无差异。
摩尔线程将vLLM移植到其GPU后端,使其完全开源,允许开发者升级和二次开发。 得益于摩尔线程MUSA架构的先进性和软件栈与CUDA的良好兼容性,用户可以通过MUSIFY自动代码转换工具轻松地将现有CUDA代码迁移到MUSA平台。 此外,CUDA相关库的调用可以快速替换为MUSA ...