有消息称AMD在最新的ROCm 6.1.3开发套件重新添加了对于多卡的支持,当然AMD表示这样做是为了让AI工具的配置更加地灵活。目前支持多卡的显卡以及计算卡包括RX 79000系列、PRO W7900以及PRO W7800,基本上也算是旗舰显卡。只是这一次多卡支持显然不是为游戏而生,毕竟AMD的显卡在游戏领域并没有什么太大的竞争力,估计AMD也放弃了对于旗舰游戏显卡的竞争。
AMD表示借助多卡策略,可以让用户更好地运行和调试超大语言模型。比如说拥有700亿参数的Llama 3,AMD还表示四路PRO W7900最高拥有192GB的显存,从而满足大模型的需求。应该来说相比较游戏应用,AI应用需要的算力相当地庞大。暂时还不会出现算力过剩的情况,因此只要软件完成了对于多卡的适配,基本上添加多少卡,就有多少性能的提升。不过现在仅有Linux 24.10.3版显卡驱动才支持多卡,并且系统也有限定,显然多卡就是为开发者而不是富哥所准备的。
2023-12-04
2023-12-07
系统资讯推荐
win10系统推荐
系统教程推荐