F5 dan Nvidia Integrasikan Solusi Infrastruktur Percepat Inferensi AI

F5 dan Nvidia luncurkan integrasi teknologi BIG-IP Next dan BlueField-3 DPU untuk meningkatkan efisiensi produksi token AI generatif hingga 40 persen.

F5 dan Nvidia memperluas kolaborasi strategis dengan meluncurkan solusi integrasi infrastruktur cerdas untuk mengoptimalkan performa inferensi kecerdasan buatan (AI) pada skala perusahaan pada Minggu (10/5/2026).

Melansir laporan Detik iNET, kerja sama ini menggabungkan F5 BIG-IP Next for Kubernetes dengan Nvidia BlueField-3 DPU (Data Processing Unit) untuk menekan latensi dan memaksimalkan penggunaan GPU.

Integrasi teknologi tersebut difokuskan pada optimalisasi "ekonomi token" yang menjadi tolok ukur efisiensi bisnis AI generatif saat ini. Keberhasilan sistem kini diukur melalui kecepatan waktu kemunculan token pertama dan biaya produksi per unit data.

"Infrastruktur AI bukan hanya tentang akses ke GPU atau peningkatan skala implementasinya. Ia telah berevolusi menjadi upaya memaksimalkan output ekonomi per akselerator," kata Kunal Anand, Chief Product Officer F5.

Data pengujian dari The Tolly Group menunjukkan bahwa kolaborasi ini mampu meningkatkan produksi token hingga 40 persen. Selain itu, waktu kemunculan token pertama tercatat menjadi 61 persen lebih cepat dibandingkan sistem standar.

Peningkatan performa tersebut dicapai dengan memindahkan beban kerja manajemen jaringan dan enkripsi dari GPU ke chip Nvidia BlueField-3 DPU. Hal ini memungkinkan GPU fokus sepenuhnya pada proses inferensi AI tanpa perlu mengubah model dasar yang digunakan.

SVP Networking Nvidia, Kevin Deierling, menyatakan bahwa sinergi ini membuka potensi ekonomi pabrik AI dengan menghadirkan inferensi yang skalabel dan hemat biaya. Infrastruktur ini juga diklaim lebih aman untuk berbagi sumber daya GPU antar unit bisnis di lingkungan cloud.

Recommended