NVIDIA baru saja mengumumkan kehadiran Dynamo 1.0, sebuah sistem operasi inference open source yang dirancang untuk mendukung pusat produksi kecerdasan buatan (AI factory) skala besar. Produk ini diklaim mampu meningkatkan performa GPU generasi terbaru Blackwell secara signifikan.
Menurut NVIDIA, Dynamo 1.0 dapat meningkatkan performa hingga 7 kali lipat dalam proses inference. Hal ini juga diklaim mampu menekan biaya per token sekaligus membuka peluang pendapatan yang lebih besar.
Dynamo hadir dengan komponen inti seperti KVBM (manajemen memori), NIXL (pergerakan data antar-GPU), dan Grove (skala sistem yang lebih luas).
Selain itu, Dynamo terintegrasi secara native dengan berbagai framework open source populer, termasuk LangChain, llm-d, LMCache, SGLang, dan vLLM. Integrasi ini diharapkan mempermudah pengembang untuk mengadopsi Dynamo tanpa hambatan berarti.
Adopsi Dynamo 1.0 telah meluas. Beberapa penyedia cloud besar seperti AWS, Microsoft Azure, Google Cloud, dan Oracle Cloud Infrastructure (OCI) telah mendukungnya. Perusahaan AI seperti Cursor, Perplexity, Baseten, Deep Infra, Fireworks, ByteDance, PayPal, Pinterest, dan Meituan juga memanfaatkan teknologi ini.
Para eksekutif industri meyakini bahwa Dynamo akan menjadi fondasi penting dalam menghadirkan sistem AI yang lebih efisien, tangguh, dan hemat biaya. Dynamo dipandang sebagai "operating system for AI factories" yang mempercepat lahirnya aplikasi AI generasi baru.
NVIDIA menegaskan bahwa Dynamo 1.0 sudah tersedia secara global dan dapat diakses oleh para pengembang mulai hari ini.
