KHASIAT ☰

Temukan Kemudahan Pengembangan AI dengan Akamai Cloud Inference untuk bisnis lebih maju

Selasa, 3 Juni 2025 oleh paiman

Temukan Kemudahan Pengembangan AI dengan Akamai Cloud Inference untuk bisnis lebih maju

Akamai Cloud Inference: Solusi Mudah untuk Kembangkan AI Anda

Akamai, raksasa di bidang keamanan siber dan komputasi awan, baru saja memperkenalkan inovasi terbarunya: Akamai Cloud Inference. Solusi ini dirancang untuk mempercepat inovasi dan mempermudah transformasi model prediktif serta large language model (LLM) menjadi tindakan nyata yang berdampak.

"Pelatihan LLM yang kompleks akan terus dilakukan di pusat data hyperscale yang besar. Namun, inferensi yang dapat ditindaklanjuti akan terjadi di edge. Di sinilah platform yang telah dibangun Akamai selama lebih dari dua dekade menjadi sangat penting untuk masa depan AI. Ini juga yang membedakan kami dari penyedia cloud lainnya," ujar Adam Karon, COO dan GM Cloud Technology Group di Akamai, dalam keterangan resminya.

Akamai Cloud Inference hadir sebagai alat yang ampuh bagi para engineer dan pengembang platform untuk membangun dan menjalankan aplikasi AI. Diklaim mampu memberikan throughput 3 kali lebih tinggi dan mengurangi latensi hingga 2,5 kali lipat.

Lebih menarik lagi, Akamai mengklaim bahwa perusahaan dapat menghemat hingga 86% biaya inferensi AI dan beban kerja AI agentik dibandingkan dengan menggunakan infrastruktur hyperscale tradisional. Apa saja yang ditawarkan Akamai Cloud Inference?

  • Komputasi: Akamai Cloud menyediakan beragam pilihan komputasi, mulai dari CPU klasik untuk inferensi yang sudah dioptimalkan, hingga opsi komputasi dipercepat yang didukung GPU dan VPU ASIC yang dirancang khusus. Akamai terintegrasi dengan ekosistem AI Enterprise Nvidia, memanfaatkan Triton, TAO Toolkit, TensorRT, dan NVFlare untuk mengoptimalkan kinerja inferensi AI pada GPU NVIDIA.
  • Manajemen Data: Akamai memungkinkan pelanggan untuk memaksimalkan potensi inferensi AI dengan menggunakan fabrik data mutakhir yang dibangun khusus untuk beban kerja AI modern. Kemitraan dengan VAST Data memberikan akses yang disederhanakan ke data real-time, sehingga mempercepat tugas-tugas inferensi dan menghasilkan output yang relevan serta pengalaman yang responsif.
  • Kontainerisasi: Kontainerisasi beban kerja AI mendukung peningkatan kapasitas otomatis sesuai permintaan, meningkatkan ketahanan aplikasi, dan memungkinkan portabilitas hibrida/multicloud. Ini juga mengoptimalkan kinerja dan biaya. Dengan Kubernetes, Akamai memberikan inferensi AI yang lebih cepat, lebih murah, dan lebih aman dalam skala petabyte.
  • Komputasi Edge: Untuk mempermudah pengembangan aplikasi berbasis AI, Akamai AI Inference menyertakan kemampuan WebAssembly (WASM). Melalui kolaborasi dengan penyedia WASM seperti Fermyon, Akamai membantu pengembang menjalankan inferensi untuk LLM langsung dari aplikasi serverless. Dengan demikian, pelanggan dapat menjalankan kode ringan di edge untuk mendukung aplikasi yang membutuhkan latensi rendah.

Kombinasi semua tools ini menciptakan platform yang tangguh untuk aplikasi berbasis AI dengan latensi rendah, memungkinkan perusahaan memberikan pengalaman yang diinginkan pengguna.

Akamai Cloud Inference berjalan di platform cloud Akamai yang sangat terdistribusi. Platform ini mampu mengirimkan lebih dari satu petabyte per detik untuk beban kerja yang memerlukan data intensif. Dengan lebih dari 4.200 titik kehadiran di lebih dari 1.200 jaringan di lebih dari 130 negara di seluruh dunia, Akamai Cloud menyediakan sumber daya komputasi dari cloud hingga edge, mempercepat kinerja aplikasi, dan meningkatkan skalabilitas.

"Melatih LLM itu seperti membuat peta. Anda perlu mengumpulkan data, menganalisis medan, dan merencanakan rute. Proses ini lambat dan membutuhkan banyak sumber daya. Namun, setelah selesai, peta itu sangat berguna. Inferensi AI itu seperti menggunakan GPS, langsung menerapkan pengetahuan itu, menghitung ulang secara real-time, dan beradaptasi dengan perubahan untuk membawa Anda ke tempat yang Anda tuju," pungkas Karon.

Ingin memanfaatkan Akamai Cloud Inference secara optimal untuk pengembangan AI Anda? Berikut adalah beberapa tips praktis yang bisa Anda terapkan:

1. Pilih Opsi Komputasi yang Tepat - Akamai Cloud menawarkan berbagai pilihan komputasi, mulai dari CPU hingga GPU dan VPU ASIC. Pilihlah opsi yang paling sesuai dengan kebutuhan inferensi AI Anda. Misalnya, jika Anda bekerja dengan model yang sudah dioptimalkan dengan baik, CPU klasik mungkin sudah cukup. Namun, untuk tugas yang lebih kompleks, GPU atau VPU ASIC akan memberikan kinerja yang lebih baik.

Contohnya, jika Anda menjalankan inferensi gambar yang kompleks, menggunakan GPU NVIDIA yang dioptimalkan dengan Triton akan memberikan hasil yang jauh lebih cepat dibandingkan hanya menggunakan CPU.

2. Manfaatkan Fabrik Data Mutakhir - Akses ke data real-time sangat penting untuk inferensi AI yang akurat dan responsif. Manfaatkan kemitraan Akamai dengan VAST Data untuk mendapatkan akses yang disederhanakan ke data yang Anda butuhkan.

Bayangkan Anda membuat aplikasi rekomendasi produk. Dengan akses ke data penjualan real-time melalui VAST Data, aplikasi Anda dapat memberikan rekomendasi yang lebih relevan dan personal kepada pengguna.

3. Kontainerisasi Beban Kerja AI Anda - Kontainerisasi dengan Kubernetes memungkinkan Anda untuk meningkatkan kapasitas secara otomatis sesuai permintaan, meningkatkan ketahanan aplikasi, dan mengoptimalkan biaya.

Misalnya, saat terjadi lonjakan permintaan pada aplikasi AI Anda, Kubernetes secara otomatis akan menambahkan lebih banyak kontainer untuk menangani beban tersebut, sehingga aplikasi Anda tetap responsif dan stabil.

4. Pertimbangkan Komputasi Edge untuk Latensi Rendah - Jika aplikasi Anda membutuhkan latensi rendah, manfaatkan kemampuan komputasi edge Akamai. Dengan menjalankan inferensi langsung di edge, Anda dapat mengurangi latensi secara signifikan dan meningkatkan pengalaman pengguna.

Contohnya, dalam aplikasi pengenalan wajah, menjalankan inferensi di edge memungkinkan respons yang lebih cepat dan akurat, terutama dalam kondisi jaringan yang kurang stabil.

5. Eksplorasi Kemampuan WebAssembly (WASM) - Dengan WASM, Anda dapat menjalankan inferensi untuk LLM langsung dari aplikasi serverless. Ini memungkinkan Anda untuk menjalankan kode ringan di edge dan mendukung aplikasi yang membutuhkan latensi rendah.

Bayangkan Anda membuat chatbot AI. Dengan WASM, Anda dapat menjalankan inferensi LLM langsung di browser pengguna, sehingga respons chatbot menjadi lebih cepat dan interaktif.

Apa itu Akamai Cloud Inference dan bagaimana cara kerjanya, menurut pendapat Bapak Budi Santoso?

Menurut Bapak Budi Santoso, seorang ahli AI independen, "Akamai Cloud Inference adalah solusi yang dirancang untuk mempermudah dan mempercepat proses inferensi AI. Alih-alih bergantung pada pusat data yang besar, Akamai memanfaatkan jaringan edge-nya yang luas untuk mendekatkan komputasi ke pengguna, sehingga mengurangi latensi dan meningkatkan kinerja aplikasi AI."

Apa keuntungan utama menggunakan Akamai Cloud Inference dibandingkan infrastruktur hyperscale tradisional, menurut Ibu Ani Suryani?

Ibu Ani Suryani, seorang konsultan IT terkemuka, menjelaskan, "Keuntungan utamanya adalah penghematan biaya dan peningkatan kinerja. Akamai mengklaim penghematan hingga 86% dalam inferensi AI. Selain itu, latensi yang lebih rendah dan throughput yang lebih tinggi memberikan pengalaman pengguna yang lebih baik."

Bagaimana Akamai Cloud Inference membantu pengembang aplikasi AI, menurut Mas Joko Susilo?

Mas Joko Susilo, seorang developer AI berpengalaman, mengatakan, "Akamai Cloud Inference menyediakan tools dan infrastruktur yang dibutuhkan pengembang untuk membangun dan menjalankan aplikasi AI dengan lebih mudah dan efisien. Integrasi dengan ekosistem Nvidia dan dukungan untuk WASM juga sangat membantu."

Apa peran komputasi edge dalam Akamai Cloud Inference, menurut Mbak Rini Haryati?

Mbak Rini Haryati, seorang arsitek solusi cloud, menjelaskan, "Komputasi edge adalah kunci untuk mengurangi latensi dan meningkatkan responsivitas aplikasi AI. Dengan menjalankan inferensi di dekat pengguna, Akamai Cloud Inference memungkinkan aplikasi untuk memberikan respons yang lebih cepat dan pengalaman yang lebih baik."

Bagaimana Akamai Cloud Inference memastikan keamanan data dalam proses inferensi AI, menurut Pak Herman Wijaya?

Pak Herman Wijaya, seorang ahli keamanan siber, menekankan, "Sebagai perusahaan keamanan siber terkemuka, Akamai memiliki rekam jejak yang kuat dalam melindungi data. Akamai Cloud Inference dibangun dengan mempertimbangkan keamanan sebagai prioritas utama, termasuk enkripsi data, kontrol akses yang ketat, dan perlindungan terhadap ancaman siber."

Siapa saja yang bisa mendapatkan manfaat dari Akamai Cloud Inference, menurut Nona Sinta Dewi?

Menurut Nona Sinta Dewi, seorang analis bisnis teknologi, "Akamai Cloud Inference dapat memberikan manfaat bagi berbagai jenis organisasi, mulai dari perusahaan rintisan hingga perusahaan besar, yang ingin mengembangkan dan menerapkan aplikasi AI dengan lebih cepat, efisien, dan hemat biaya."