AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal
AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.
AMD Ryzen AI Max 400 Series Membuka Peluang Baru bagi Pemrosesan AI Lokal
Kemajuan TEKNOLOGI artificial intelligence menghadirkan perubahan terhadap kebutuhan perangkat komputasi. Berkat pengembangan Ryzen AI Max 400 Series, AMD mengembangkan pilihan sistem komputasi lokal untuk mendukung aplikasi generatif tanpa ketergantungan penuh pada cloud. Platform tersebut menyatukan pemrosesan komputasi umum, akselerasi GPU, dan NPU khusus AI dalam platform prosesor terintegrasi. Kombinasi tersebut bertujuan membantu menjalankan aktivitas generatif kompleks dengan pengelolaan komputasi lebih terarah. Dalam pengembangan lokal, jumlah RAM merupakan pertimbangan penting. Dengan mempertimbangkan kebutuhan tersebut, AMD menjadikan kapasitas RAM bersama sebagai komponen strategis produk.
Gorgon Halo dikembangkan sebagai kelanjutan dari platform Ryzen AI Max generasi terdahulu. Perubahan yang paling menonjol adalah perluasan ruang kerja terpadu. Dalam konfigurasi terdahulu, RAM terpadu tersedia hingga 128GB. Sebagai peningkatan, kapasitas memori meningkat hingga 192GB. Peningkatan tersebut memberikan ruang lebih besar bagi aplikasi generatif. Meski spesifikasinya lebih tinggi, setiap perangkat tidak otomatis memiliki RAM maksimal. Karena itu, pengembang dianjurkan memastikan kapasitas RAM yang dipasang sebelum membeli komputer untuk AI lokal.
Teknologi RAM Bersama pada Ryzen AI Max 400 Series
Daya tarik utama Gorgon Halo adalah penggunaan RAM bersama yang memberikan ruang kerja bersama bagi prosesor dan grafis kapasitas memori sistem. Berbeda dari komputer dengan GPU diskret, sistem terpadu tersebut tidak selalu memerlukan penyalinan data antarmemori terpisah antara komponen utama dan grafis. Manfaat pendekatan ini dapat membantu ketika menjalankan model AI berukuran besar. Dalam pemrosesan bahasa alami, informasi numerik model memerlukan kapasitas RAM yang mencukupi. Dengan kapasitas hingga 192GB, perangkat berpotensi memuat model lebih besar.
Menurut informasi perusahaan, sistem memungkinkan penggunaan alokasi memori grafis mencapai 160GB. Besarnya alokasi memori tersebut tidak menunjukkan adanya memori kartu grafis khusus sebesar 160GB. Pada platform Gorgon Halo, GPU memanfaatkan bagian memori sistem. Hal tersebut harus menjadi pertimbangan karena proses pendukung masih memerlukan alokasi memori. Apabila kapasitas tersedia semakin terbatas, aplikasi lain mungkin mengalami kekurangan memori. Di samping kapasitas RAM, kecepatan akses data juga memengaruhi jumlah token yang dihasilkan. Karena itu, kapasitas memori tinggi perlu diimbangi kemampuan komputasi memadai.
Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal
Salah satu kemampuan yang menjadi perhatian adalah dukungan terhadap model AI berukuran besar. Menurut AMD, platform dengan memori maksimal memungkinkan penggunaan model dengan lebih dari 300 miliar parameter menggunakan kompresi parameter berpresisi 4-bit. Dukungan pemrosesan ini memberikan pilihan tambahan bagi pengembang AI yang membutuhkan sistem inferensi mandiri. Walaupun kemampuan tersebut menjanjikan, kemampuan memuat parameter bukan jaminan memperoleh performa maksimal. Performa inferensi aktual ditentukan oleh kombinasi jumlah token konteks serta metode kompresi.
Metode kompresi bobot menjadi komponen utama dalam menyesuaikan model dengan kapasitas perangkat. Jika bobot disimpan menggunakan banyak bit, jaringan saraf menggunakan kapasitas penyimpanan kerja yang besar. Untuk ilustrasi teknis, sistem AI berukuran 300B pada format dua byte per parameter memerlukan kira-kira 600 gigabyte sebelum overhead. Apabila setiap bobot direpresentasikan dengan empat bit, estimasi parameter murni menjadi sekitar 150 gigabyte. Sebagai catatan, penyimpanan bobot terkompresi memiliki overhead. Selain itu, sistem masih membutuhkan KV cache. Karena alasan tersebut, pemilihan model perlu mempertimbangkan ruang memori tambahan.
Teknologi Prosesor Gorgon Halo untuk Komputasi dan Grafis Profesional
Di samping dukungan RAM besar, Gorgon Halo memadukan unit komputasi utama generasi Zen 5, grafis RDNA 3.5, dan akselerator neural XDNA 2. Perpaduan tiga komponen ini mendukung pengelolaan komputasi berdasarkan kebutuhan aplikasi. Prosesor sentral berfungsi menjalankan sistem operasi, sedangkan unit komputasi paralel memiliki kemampuan untuk inferensi model AI. Sementara itu, NPU dirancang untuk menjalankan beban AI tertentu. Melalui arsitektur tersebut, sistem dapat memilih sumber komputasi sesuai kebutuhan. Meski memiliki beberapa akselerator, tidak semua aplikasi otomatis memanfaatkan ketiganya.
Pada konfigurasi tertinggi, AMD menyediakan dukungan pemrosesan utama enam belas inti, kapasitas pemrosesan grafis hingga 40 CU, dan akselerator neural dengan kemampuan sampai 55 TOPS. Rancangan perangkat keras tersebut dikembangkan bagi aktivitas komputasi profesional. Walaupun angka TOPS menunjukkan kapasitas teoritis, kapasitas operasi mentah tidak otomatis menunjukkan kecepatan LLM. Dalam pemrosesan model besar, optimasi perangkat lunak dan komputasi paralel perlu diperhatikan secara khusus. Karena itu, pengembang perlu memeriksa hasil benchmark pada model yang relevan, bukan sekadar membandingkan jumlah TOPS.
Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif
Untuk memperlihatkan kemampuan platform, AMD menampilkan pengujian kinerja perusahaan. Evaluasi performa ini menggunakan beban kerja AI generatif seperti pemrosesan grafis berbasis AI dan inferensi model bahasa. Berdasarkan presentasi perusahaan, keunggulan performa bervariasi dari peningkatan mendekati 1,1 kali hingga peningkatan maksimum 32,2 kali terhadap sistem lain yang menjadi acuan. Namun demikian, hasil pengujian dilakukan dalam kondisi tertentu. Oleh sebab itu, peningkatan maksimum bukan gambaran performa umum.
Pada sejumlah skenario benchmark, AMD menggunakan ComfyUI untuk pengujian alur kerja gambar. Perusahaan juga memakai model terkompresi dengan dukungan Unsloth pada beberapa pengujian inferensi. Konfigurasi quantization dapat memengaruhi kecepatan inferensi. Selain itu, panjang konteks percakapan juga dapat memengaruhi kebutuhan RAM tambahan. Apabila sistem memproses informasi dalam jumlah luas, kecepatan dapat menurun meskipun kapasitas memori mencukupi. Oleh karena itu, calon pembeli perlu mencari pengujian independen sebelum menyimpulkan keunggulan performa.
Manfaat Memori Besar AMD bagi Developer serta Perusahaan
Penerapan yang paling relevan Gorgon Halo adalah pengujian model bahasa tanpa server eksternal. Dengan dukungan memori terpadu, tim teknologi dapat menguji aplikasi generatif langsung pada komputer pengembangan. Pendekatan ini dapat membantu eksperimen model secara lebih mandiri. Sebagai contoh, perusahaan dapat mencoba agen AI berbasis data organisasi yang menangani data pada perangkat sendiri. Meski model berjalan tanpa cloud, keamanan tetap memerlukan pengelolaan. Aplikasi pendukung berpotensi mengakses layanan tambahan, sehingga pengguna perlu memahami kebijakan aplikasi.
Di samping penggunaan LLM, Gorgon Halo berpotensi membantu pengembangan agen AI. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Sebagai ilustrasi, agen dapat membaca data pendukung, kemudian menyusun ringkasan berdasarkan hasil pemrosesan sebelumnya. Ruang kerja komputasi yang besar berpotensi memungkinkan pemuatan beberapa komponen pemrosesan. Meski memungkinkan pemrosesan lebih luas, aplikasi kompleks harus mempertimbangkan pengaturan sumber daya. Di samping kebutuhan performa, tindakan otomatis harus diawasi agar keputusan sistem tetap sesuai tujuan.
Kesimpulan: Gorgon Halo Memperluas Kemampuan AI Lokal AMD
Pengungkapan kemampuan Gorgon Halo oleh AMD membuka peluang baru dalam pengembangan sistem AI pada perangkat pribadi. Dengan menghadirkan memori terpadu hingga 192GB, ruang pemrosesan grafis yang luas, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, sistem Gorgon Halo memberikan kesempatan pengembangan agen digital. Potensi pemrosesan model sangat besar menggunakan quantization 4-bit membuka pilihan menarik bagi pengembang profesional. Meski kapasitas komputasinya tinggi, performa nyata harus dinilai berdasarkan dukungan perangkat lunak dan kebutuhan komputasi. Dengan mempertimbangkan berbagai faktor, calon pengguna sebaiknya memilih perangkat sesuai kebutuhan. Menurut Anda, apakah memori terpadu 192GB akan membuat AI lokal semakin menarik? Anda dapat berbagi pandangan mengenai pemanfaatan memori terpadu pada komputer generasi terbaru.
