近日，PyTorch 官方分享了如何实现无 CUDA 计算，对各个内核进行了微基准测试比较，并讨论了未来如何进一步改进 Triton 内核以缩小与 CUDA 的差距。 在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的 GPU 和 CUDA 是常见的做法。在更大的机器学习编程与 ...

在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的 GPU 和 CUDA 是常见的做法。在更大的机器学习编程与计算范畴，同样严重依赖 CUDA，使用它加速的机器学习模型可以实现更大的性能提升。 虽然 CUDA 在加速计算领域占据主导地位，并成为英伟达重要的 ...

This post will show how to install PyTorch on your Windows 11 device. PyTorch is an open-source machine learning library used for a wide range of tasks in the field of artificial intelligence and ...

机器之心报道 编辑：张倩 用 AI 提高 AI 的效率，它们就能变得像人类大脑一样高效？ 我们的大脑只用了 20 瓦的能量就能完成复杂思考，而现代 AI 系统却需要成排的高功率 GPU 和惊人的电力消耗。这种差距如何缩小？ 日本 AI 初创公司 Sakana AI 团队提出了一个大胆 ...

Dr. James McCaffrey of Microsoft Research uses a complete demo program, samples and screenshots to explains how to install the Python language and the PyTorch library on Windows, and how to create and ...

就在刚刚，斯坦福HAI华人大神团队又出惊人神作了。 他们用纯CUDA-C语言编写的快速AI生成内核，竟然超越了PyTorch！ 在这个过程中，完全不用借助CUTLASS和Triton等库和领域特定语言（DSL），就能让性能表现接近PyTorch内置的、经过专家优化的标准生产级内核，甚至在 ...

好家伙，AI意外生成的内核（kernel），性能比人类专家专门优化过的还要好！ 斯坦福最近披露了一组新发现，结果真的太亮眼了。 由AI优化的内核，在常见深度学习操作上，翻倍超越原生PyTorch，性能至多可以提升近400%—— 矩阵乘法（Matmul，FP32） ：性能达到 ...

快科技9月25日消息，在2025年Computex大会上，AMD承诺将通过ROCm为Windows系统带来PyTorch支持，如今这一承诺终于兑现。 AMD发布了ROCm 6.4.4预览版本，为Windows系统下的Radeon RX 9000和RX 7000系列显卡以及Ryzen AI系列APU带来了PyTorch支持。 ROCm是由AMD开发的开源GPU计算生态系统 ...

英伟达的软件护城河正在逐渐消失。 随着PyTorch支持更多GPU厂商，再加上OpenAI的Triton搅局，英伟达手中的利器CUDA逐渐锋芒不再。 上述观点来自Semi Analysis首席分析师Dylan Patel，相关文章已引发一波业内关注。 当英伟达之前提出要收购Arm时，我就对潜在的垄断感到 ...