Red Hat dan NVIDIA mengumumkan peluncuran Red Hat AI Factory with NVIDIA. Platform perangkat lunak hasil rekayasa bersama ini menggabungkan Red Hat AI Enterprise dan NVIDIA AI Enterprise, dirancang untuk menghadirkan solusi AI end-to-end yang terpadu dan dioptimalkan bagi organisasi yang berupaya menerapkan kecerdasan buatan (Artificial Intelligence – AI) dalam skala besar di lingkungan produksi.
Peluncuran platform ini bertepatan dengan proyeksi peningkatan belanja perusahaan untuk AI, yang diperkirakan akan melampaui USD1 triliun pada tahun 2029. Pendorong utama pertumbuhan ini adalah pesatnya perkembangan aplikasi agentic AI. Red Hat AI Factory with NVIDIA bertujuan memberdayakan tim operasional IT untuk menyederhanakan pengelolaan infrastruktur tradisional, serta memenuhi permintaan yang terus meningkat dari AI stack yang kompleks.
Solusi ini mempercepat proses implementasi AI yang siap produksi dengan memanfaatkan infrastruktur komputasi terakselerasi, peningkatan performa model AI, dan GPU NVIDIA yang menjalankan inference stack. Platform ini didukung oleh infrastruktur dari produsen sistem terkemuka seperti Cisco, Dell Technologies, Lenovo, dan Supermicro. Dukungan ini memungkinkan administrator IT dan tim operasional untuk mengelola implementasi AI dengan kekuatan operasional dan prediktabilitas yang sama seperti beban kerja enterprise lainnya.
Platform ini memberikan fondasi yang sangat skalabel untuk implementasi AI di berbagai lingkungan, termasuk on-premises, cloud, dan edge. Manfaat yang ditawarkan termasuk waktu-ke-nilai yang lebih cepat, di mana organisasi dapat mempercepat transisi melalui alur kerja yang efisien dan akses langsung ke model yang sudah dikonfigurasi sebelumnya, seperti seri IBM Granite, NVIDIA Nemotron, serta NVIDIA Cosmos yang disediakan dalam bentuk NVIDIA NIM microservices.
Selain itu, organisasi dapat menyelaraskan model dengan data enterprise menggunakan NVIDIA NeMo, yang mengurangi waktu dan biaya tuning. Peningkatan performa dan efisiensi biaya juga menjadi keuntungan, dengan memaksimalkan pemanfaatan infrastruktur dan meningkatkan performa inference melalui serving stack terpadu, didukung oleh Red Hat AI (termasuk vLLM, NVIDIA TensorRT-LLM, dan NVIDIA Dynamo) untuk menurunkan Total Biaya Kepemilikan (TCO) AI.
Beberapa fitur utama yang ditawarkan oleh platform ini antara lain:
Orkestrasi GPU Cerdas
Platform ini menyediakan akses ke sumber daya GPU sesuai kebutuhan melalui orkestrasi cerdas dan pooled infrastructure, lengkap dengan kemampuan checkpointing otomatis.
Keamanan Enterprise yang Lebih Kuat
Platform ini dibangun di atas fondasi Red Hat Enterprise Linux untuk keamanan dan kepatuhan yang terintegrasi, serta NVIDIA DOCA microservices yang menghadirkan keamanan runtime AI di seluruh infrastruktur.
"Peralihan dari fase eksperimen AI ke fase produksi AI berskala industri membutuhkan perubahan mendasar dalam cara kita mengelola komputasi AI stack," ujar Chris Wright, Chief Technology Officer dan Senior Vice President, Global Engineering, Red Hat.
"Melalui Red Hat AI Factory with NVIDIA, kami memungkinkan pelanggan mengendalikan strategi AI mereka sendiri serta menskalakannya dengan tingkat kekuatan yang sama seperti platform IT inti mereka," tambahnya.
Justin Boitano, Vice President, Enterprise AI Platforms, NVIDIA, menambahkan bahwa Red Hat AI Factory with NVIDIA menyediakan fondasi software yang membantu organisasi mengikuti pesatnya inovasi infrastruktur sekaligus secara andal membangun dan menerapkan aplikasi agentic AI generasi berikutnya. Red Hat AI Factory with NVIDIA kini sudah tersedia di pasar.