Supermicro Mengungkapkan Server Penyimpanan STX NVIDIA BlueField-4 untuk Meningkatkan Performa Inferensi AI

robot
Pembuatan abstrak sedang berlangsung

Supermicro telah memperkenalkan salah satu server penyimpanan memori konteks (CMX) pertama di industri, yang dibangun berdasarkan arsitektur referensi NVIDIA STX, untuk secara signifikan meningkatkan kinerja inferensi AI. Server baru ini dirancang untuk mengelola kueri AI jangka panjang dan beban kerja agen multi-tahap dengan lebih efisien melalui pengelolaan cache Key Value (KV) menggunakan NVIDIA Dynamo, sehingga mengurangi konsumsi daya dan mempercepat hasil. Perusahaan juga mengumumkan beberapa solusi AI Data Platform berbasis GPU RTX PRO 6000 Blackwell Server Edition, menunjukkan kolaborasi berkelanjutan dengan NVIDIA dan mitra penyimpanan lainnya.

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan