Допис

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

Застереження. Вміст, опублікований на OKX Orbit, надається виключно в інформаційних цілях. Докладніше

Відповіді

Ще немає коментарів. Додайте першу відповідь!

Related Flash News

Аватар джерелаChainCatcher16хв тому

Фон монетарної політики США позитивний для долара США, а очікування підвищення процентних ставок підтримують індекс долара США

Аватар джерелаChainCatcher41хв тому

Strive витратила $30,3 мільйона, щоб додати 382 біткоїни

Аватар джерела币界网43хв тому

Pump Fun дозволить об'єднати USDC, впливаючи на потік коштів у екосистемі SOL

Аватар джерелаChainCatcher1г тому

Платформа контенту, створеного користувачами Web3 Tomoland, залучила фінансування на суму 2 мільйони доларів під керівництвом Sky9 Capital

Аватар джерелаChainCatcher1г тому

Дані: BlackRock поклала на Coinbase 5 847 біткоїнів на суму $449,52 мільйона

Аватар джерелаOdaily1г тому

Standard Chartered Bank планує скоротити понад 7 000 робочих місць до 2030 року

Аватар джерела币界网2г тому

Canaan Technology оприлюднила фінансовий звіт за перший квартал 2026 року: загальний дохід становить $62,7 мільйона

Аватар джерела币界网4г тому

Гіперрідинні кити: Зростання HYPE привабило кити для переслідування цього зростання, а чиста купівельна спроможність Hyperliquid TWAP у найближчі 24 години досягне $2,8 мільйона

Аватар джерелаChainCatcher4г тому

ВанЕк: Ринок цифрового кредитування може досягти 2,5 трильйона доларів у наступному десятилітті, а BTC очікується до 1 мільйона доларів

Аватар джерелаChainCatcher4г тому

X запустив функцію «Активні фанати», яка дозволяє переглядати кількість реальних активних користувачів за 24 години