Alibaba Cloud Perkenalkan Model AI Canggih, Saas dan Infrastruktur Terbaru

Teknologi ini mampu mengatasi keterbatasan pendekatan node tunggal tradisional yang menjadi hambatan.

Sebagai upaya untuk meningkatkan performa sekaligus efisiensi biaya, PAI-EAS juga diperkenalkan dengan fungsi prefill-decode disaggregation.

Teknologi ini secara nyata mampu meningkatkan concurrency hingga 92 persen dan kecepatan pemrosesan token (TPS) sebesar 91 persen saat dijalankan dengan model Qwen2.5-72B, menjadikan sistem ini tangguh untuk meningkatkan skalabilitas dan efisiensi.

PAI-Model Gallery diperbarui untuk dapat memberi akses kepada lebih dari 300 model open-source termutakhir secara komprehensif.

Mencakupi seluruh lini model milik Alibaba Cloud, yaitu lini Qwen dan Wan.

Seluruh model dapat diakses dengan mudah oleh pengguna, melalui proses pemindahan dan pengelolaan data tanpa kode (no-code).

Platform ini juga memberikan fleksibilitas dalam pilihan metode deployment, fitur baru seperti model untuk evaluasi performa dan model distillation.

Sehingga dapat mengurangi biaya dengan pemindahan pengetahuan model dari skala besar ke yang lebih kecil.

Untuk meningkatkan efisiensi pengelolaan data di era AI, Alibaba Cloud kini telah mengintegrasikan kemampuan inferensi AI bawaan, yang didukung oleh model Qwen, dalam PolarDB, database relasional andalan mereka yang berbasis cloud andalannya.

Dengan menghadirkan kemampuan machine learning langsung di dalam database, proses inferensi kini dapat dilakukan langsung di dalam database tanpa perlu memindahkan data tersebut.

Baca Juga: Laptop Pertama Motorola Meluncur: Tawarkan Layar OLED, Bodi Ramping, dan RAM 16 GB

Hal ini berdampak pada pengurangan latensi pemrosesan secara signifikan, sekaligus meningkatkan efisiensi dan keamanan data.

Fitur baru ini dirancang khusus untuk menangani beban kerja berbasis teks dan cocok dalam berbagai skenario seperti mengembangkan agen RAG (Retrieval-Augmented Generation), pembuatan text embedding, serta pencarian kesamaan dalam analisis semantik.

Alibaba Cloud juga mengintegrasikan AnalyticDB, data warehouse miliknya, ke dalam Model Studio, platform untuk pengembangan model dan aplikasi AI generatif, sebagai vector database yang direkomendasikan untuk solusi RAG.

Pembaruan ini memungkinkan organisasi dapat langsung menghubungkan basis pengetahuan internal ke model dan alat AI di Model Studio, sehingga pengembangan aplikasi kontekstual yang cerdas dapat lebih cepat.

Bersamaan dengan peluncuran model AI, peningkatan infrastruktur dan platformnya, Alibaba Cloud turut memperkenalkan rangkaian produk berbasis AI dalam lini Software-as-a-Service (SaaS) terbaru.

Software ini dirancang untuk mempercepat transformasi digital di berbagai sektor industri.

Didorong oleh AI, produk ini mendukung kemampuan pelanggan internasional untuk dalam analisis data, otomatisasi, dan pembuatan konten.

AI Doc merupakan platform cerdas untuk pemrosesan dokumen yang menggunakan LLM untuk dapat membaca berbagai jenis dokumen secara efisien.