刚完硬件刚软件AMD确认AI软件3倍性能提升：CUDA之敌

8月9日消息，在AI市场上NVIDIA占据了95%的份额，这不仅是他们的AI显卡硬件性能强大，还得益于CUDA的软件生态更完善，毕竟16年来积累了400多万开发者，这是NVIDIA最大的护城河。

AMD在AI市场上想抢占更多份额，除了明年推出性能40PFlops(4亿亿次每秒)的MI400加速卡之外，还要在软件生态上取得突破，这方面就得靠AMD的ROCm软件了，而且还是开源开放的生态。

今年6月份AMD官宣了最新的ROCm7软件，专为性能、兼容性和灵活性而设计，在推理和训练方面提供了重大增强，支持许多开箱即用的最新AI模型，并将AMD开放生态系统从云扩展到边缘。

在日前的财报会议上，CEO苏姿丰也提到了ROCm7的诸多优点，强调在这一财季中AMD取得了重大进展，提高了ROCm7的性能、易用性并扩大了其采用范围。

苏姿丰表示，我们发布了ROCm7，对整个软件栈的每一层都进行了重大升级，与上一代相比，推理和训练性能提升了3倍以上，并增加了对大规模训练、分布式推理和低精度数据类型的支持。

为了加强与开发者的合作，AMD推出了ROCm夜间构建版本，并扩大了即时计算基础设施的访问范围，包括推出了AMD首个开发者云，该云提供预配置的容器，可即时访问AMDGPU。

在此前的发布会上，AMD还提供了ROCm7的实测结果，在Llama3.170B模型上性能提升3.2倍，Qwen2-72B上性能提升3.4倍，而DeepSeekR1性能提升3.8倍。

在训练任务上，Llama270B、Llama3.18B、Qwen1.57B模型上平均性能提升3倍。

今年内ROCm7还会不断提升生态支持，加入对锐龙平台笔记本/工作站的支持，完整支持Linux系统，还会正式加入对Windows系统的支持，可以说之前备受开发者吐槽的问题正在逐步解决。