Trenteknologi.com – Red Hat, Inc. telah mengumumkan kemampuan baru untuk Red Hat OpenShift AI. Red Hat OpenShift AI dibangun di atas platform Red Hat OpenShift dan Red Hat OpenShift Data Science yang terbukti berhasil. Platform ini menyediakan fondasi konsisten dan skalabel berbasis teknologi open source bagi pemimpin operasional IT, sambil menciptakan ekosistem khusus untuk para ilmuwan data dan pengembang agar dapat menangkap inovasi AI. Red Hat OpenShift AI mendukung layanan AI generatif dari IBM watsonx.ai, platform AI dari IBM yang dirancang untuk memperluas aplikasi dan layanan cerdas dalam lingkungan perusahaan, mendorong perkembangan model generasi berikutnya.
Seiring dengan munculnya Large Language Models (LLMs) seperti GPT-4 dan LlaMA, peneliti dan pengembang aplikasi dari berbagai domain dan industri sedang mencari cara untuk memanfaatkan keunggulan dari teknologi ini dan model fondasi lainnya. Pelanggan dapat meningkatkan model komersial atau open source dengan data yang spesifik sesuai dengan domain untuk meningkatkan keakuratannya dalam kasus penggunaan tertentu. Namun, pelatihan awal model AI memerlukan infrastruktur yang besar, termasuk platform dan alat khusus, bahkan sebelum mempertimbangkan layanan, konfigurasi, dan manajemen model. Tanpa platform yang dapat memenuhi kebutuhan ini, organisasi seringkali menghadapi keterbatasan dalam mengadopsi AI/ML. OpenShift AI memberikan solusi untuk tantangan ini dengan menyediakan konsistensi infrastruktur untuk pelatihan, implementasi, dan inferensi guna memanfaatkan potensi AI secara penuh.
Red Hat OpenShift AI membantu mengatasi hambatan-hambatan tersebut dengan menyediakan fondasi standar untuk membuat dan menjalankan model AI/ML yang siap produksi. Platform ini menawarkan konsistensi, kemudahan penggunaan, dan pilihan implementasi dari cloud hingga edge yang disediakan oleh Red Hat OpenShift. Insinyur platform dapat membuat konfigurasi yang dapat diskalakan secara khusus untuk memenuhi kebutuhan ilmuwan data dan pengembang mereka. OpenShift AI juga dapat digunakan untuk meningkatkan model yang sudah ada, mengurangi biaya pelatihan model awal, mempercepat waktu hingga nilai, dan memperluas penggunaan AI di luar kebutuhan khusus ilmuwan data.
Red Hat OpenShift AI menawarkan berbagai pilihan mitra teknologi, termasuk Anaconda, IBM Watson Studio, Intel OpenVINO dan AI Analytics Toolkit, NVIDIA AI Enterprise, dan Starburst. Platform ini juga memberikan akses ke lebih dari 30 mitra AI/ML bersertifikasi sebagai bagian dari ekosistem OpenShift.
Pelanggan dengan persyaratan regulasi dan kepatuhan khusus, termasuk yang beroperasi dalam lingkungan terputus dan terisolasi, dapat mempersiapkan data, mengembangkan, melatih, dan menjalankan model on-premise menggunakan OpenShift AI. Pelanggan juga dapat mengembangkan model di cloud publik dan menjalankannya di on-premise atau edge menggunakan alat dan antarmuka yang sama secara konsisten. Hal ini menciptakan lingkungan MLOps hibrida yang unik, memungkinkan kolaborasi antara operasional IT, ilmuwan data, dan pengembang aplikasi.
Dengan fondasi OpenShift AI yang terbukti, pelanggan dapat dengan lebih andal meningkatkan skala pelatihan model fondasi dengan memanfaatkan fitur akselerasi GPU native OpenShift, baik di on-premise maupun melalui layanan cloud.
Beberapa peningkatan terbaru untuk Red Hat OpenShift AI meliputi:
- Pipelines penggelaran untuk melacak eksperimen AI/ML dan alur kerja ML terotomatisasi, yang membantu ilmuwan data dan pengembang aplikasi cerdas untuk melakukan iterasi secara cepat pada proyek machine learning dan mengotomatisasi penggelaran dan pembaruan aplikasi.
- Penyajian model yang sekarang mencakup dukungan GPU untuk inferensi dan runtime penyajian model khusus, yang meningkatkan kinerja inferensi dan implementasi model fondasi.
- Pemantauan model yang memungkinkan organisasi untuk mengelola kinerja dan metrik operasional melalui dashboard terpusat.
Red Hat OpenShift AI juga mendukung IBM watsonx dan Ansible Lightspeed. Red Hat OpenShift AI memberikan dasar untuk mengintegrasikan fitur terbaru AI dari IBM, termasuk IBM Watson Code Assistant, ke dalam infrastruktur IT dan tim pengembang Anda.
Ansible Lightspeed menghadirkan kekuatan IBM Watson Code Assistant ke dalam Ansible, memberdayakan pengguna dengan berbagai tingkat keterampilan untuk menulis Ansible Playbooks dengan rekomendasi yang dihasilkan oleh AI. Ansible Lightspeed meningkatkan produktivitas pengguna Ansible dengan memungkinkan mereka menggunakan perintah dalam Bahasa Inggris untuk membuat Ansible Playbook, terlepas dari tingkat keterampilan mereka dalam otomatisasi.
Di berbagai industri, perusahaan-perusahaan sudah menggunakan Red Hat OpenShift AI untuk mendukung inovasi AI/ML, antara lain:
- Atruvia, perusahaan Jerman yang menyediakan layanan IT, termasuk AI, kepada lembaga keuangan di seluruh dunia, telah menjadikan Red Hat OpenShift AI sebagai dasar platform sains data di seluruh organisasinya.
- Clalit Health Care Services, organisasi layanan kesehatan terbesar di Israel, memilih Red Hat OpenShift AI sebagai fondasi untuk membangun model AI dalam penelitian klinis.
- Guidehouse, penyedia global layanan konsultasi dan manajemen, menggunakan Red Hat OpenShift AI sebagai bagian dari platform komprehensif untuk membantu mengatasi tingkat bunuh diri di kalangan veteran Amerika Serikat.
- Tirando X Colombia, organisasi nirlaba yang fokus pada kesehatan reproduksi di Kolombia, menggunakan Red Hat OpenShift AI untuk mengoptimalkan alur kerja AI/ML dalam pembuatan aplikasi pencegahan kehamilan pada remaja.
- Veripark, penyedia solusi global untuk organisasi layanan keuangan, mengembangkan solusi AI/ML global mereka menggunakan Red Hat OpenShift Data Science untuk menjalankan solusi tersebut di semua cloud dan platform on-premise.
