Publier

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

Avertissement : les contenus d'OKX Orbit sont uniquement publiés à titre informatif. En savoir plus

Réponses

Aucun commentaire pour le moment. Soyez le premier à répondre !

Related Flash News

Avatar sourceChainCatcherIl y a 1 h

Les contrats à terme sur les indices boursiers américains ont légèrement baissé, et les actions des semi-conducteurs ont continué à baisser

Avatar source币界网Il y a 1 h

Le portefeuille Bitget a ajouté 130 types d’actions tokenisées Xstocks

Avatar sourceChainCatcherIl y a 3 h

Institutions : La demande des centres de données IA pourrait entraîner la réévaluation des mineurs de Bitcoin, et plus de 90 milliards de dollars de coopération ont été annoncés

Avatar source币界网Il y a 4 h

Dell s’est associé à Palantir pour lancer un système d’exploitation natif d’IA : le stockage sous-jacent remplace Ceph, ciblant directement les banques de défense et de base

Avatar source币界网Il y a 9 h

Analog Devices prévoit d’acquérir Empower pour 1,5 milliard de dollars, renforçant ainsi le fournisseur Nvidia MPS

Avatar sourceTechFlowIl y a 15 h

WEEX Labs : L’IA et le secteur financier se renforcent, et l’appétit pour le risque des actions américaines continue de croître

Avatar sourceChainCatcherIl y a 18 h

Les trois principaux indices boursiers ont clôturé de manière mixte, Li Auto perdant près de 10 %

Avatar sourceChainCatcherIl y a 22 h

Ondo : TVL des actions tokenisées dépasse 1,5 milliard de dollars, avec une concentration d’environ 25 % des actifs principaux

Avatar sourceChainCatcherIl y a 22 h

L’ancien chercheur chez OpenAI, Aschenbrenner, mise fortement sur les mineurs de Bitcoin tout en vendant à découvert Nvidia et AMD

Avatar sourceChainCatcherIl y a 22 h

Les trois principaux indices boursiers américains ont baissé, Micron Technology ayant chuté de près de 3 %