AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Ryzen AI Max 400 Series Membuka Peluang Baru bagi Pemrosesan AI Lokal

Perkembangan TEKNOLOGI artificial intelligence terus mendorong permintaan sistem pemrosesan lokal. Melalui platform Gorgon Halo, AMD memperluas kemampuan komputer pribadi untuk mendukung aplikasi generatif tanpa ketergantungan penuh pada cloud. Keluarga prosesor terbaru tersebut menggabungkan unit pemrosesan utama, akselerasi GPU, dan unit pemrosesan neural dalam arsitektur komputasi terpadu. Pendekatan pemrosesan tersebut dirancang untuk menangani beban kerja kecerdasan buatan dengan pengelolaan komputasi lebih terarah. Dalam pengembangan lokal, kapasitas memori sering menjadi pertimbangan penting. Dengan mempertimbangkan kebutuhan tersebut, AMD mengutamakan arsitektur unified memory sebagai keunggulan utama platform.

Gorgon Halo menjadi pengembangan lanjutan dari keluarga Strix Halo. Perubahan yang paling menonjol adalah bertambahnya kapasitas memori. Dalam konfigurasi terdahulu, RAM terpadu tersedia hingga 128GB. Pada jajaran terbaru, kapasitas memori meningkat hingga 192GB. Penambahan RAM tersebut memberikan ruang lebih besar bagi aplikasi generatif. Meski spesifikasinya lebih tinggi, setiap perangkat tidak otomatis memiliki RAM maksimal. Dengan memahami perbedaan tersebut, pengguna perlu memeriksa spesifikasi perangkat sebelum merencanakan pemrosesan model besar.

Teknologi RAM Bersama pada Ryzen AI Max 400 Series

Daya tarik utama Gorgon Halo adalah sistem memori terpadu yang memungkinkan CPU dan GPU mengakses pool RAM yang sama. Memiliki pendekatan berlainan dibandingkan perangkat dengan VRAM khusus, arsitektur tersebut memungkinkan pertukaran informasi lebih langsung antara unit pemrosesan yang terintegrasi. Nilai tambahan sistem tersebut dapat membantu ketika memproses data generatif. Pada inferensi model bahasa, informasi numerik model membutuhkan ruang penyimpanan kerja. Melalui dukungan memori besar, perangkat berpotensi memuat model lebih besar.

Berdasarkan spesifikasi resmi, sistem memungkinkan penggunaan alokasi memori grafis mencapai 160GB. Jumlah tersebut tidak menunjukkan adanya memori kartu grafis khusus sebesar 160GB. Dalam arsitektur terpadu, memori grafis berasal dari RAM bersama. Hal tersebut penting dipahami karena CPU dan aplikasi lain tetap membutuhkan ruang. Jika memori hampir penuh, performa sistem dapat terpengaruh. Selain itu, bandwidth memori turut menentukan kecepatan inferensi. Karena itu, kapasitas memori tinggi perlu diimbangi perangkat lunak teroptimasi.

Teknologi AMD Mendukung Inferensi Model Bahasa Besar Tanpa Cloud

Keunggulan yang ditonjolkan AMD adalah kemampuan menjalankan LLM dengan banyak parameter. Berdasarkan penjelasan perusahaan, konfigurasi Ryzen AI Max PRO 400 Series memungkinkan penggunaan LLM berukuran melampaui 300B menggunakan kompresi parameter berpresisi 4-bit. Dukungan pemrosesan ini menjadi pencapaian menarik bagi pengembang AI yang mengembangkan aplikasi tanpa selalu menggunakan server cloud. Walaupun kemampuan tersebut menjanjikan, dukungan ukuran model belum berarti memperoleh performa maksimal. Hasil pemrosesan dalam praktik ditentukan oleh kombinasi bandwidth memori serta konfigurasi sistem.

Quantization berperan penting dalam memungkinkan model berukuran besar berjalan. Jika bobot disimpan menggunakan banyak bit, model memerlukan alokasi RAM yang lebih tinggi. Sebagai gambaran, LLM dengan tiga ratus miliar bobot pada format dua byte per parameter memerlukan kira-kira 600 gigabyte sebelum overhead. Jika dikompresi menjadi 4-bit, kebutuhan teoritisnya turun menjadi sekitar 150GB. Perlu dipahami, penyimpanan bobot terkompresi memiliki overhead. Tidak hanya untuk bobot, aplikasi AI harus menyediakan memori untuk konteks dan proses pendukung. Oleh sebab itu, kapasitas RAM harus direncanakan secara menyeluruh.

Teknologi Prosesor Gorgon Halo untuk Komputasi dan Grafis Profesional

Tidak hanya mengutamakan kapasitas penyimpanan kerja, Gorgon Halo memadukan unit komputasi utama generasi Zen 5, pemroses grafis Radeon RDNA 3.5, dan unit pemrosesan AI khusus berbasis XDNA 2. Kombinasi tersebut mendukung pengelolaan komputasi berdasarkan jenis tugas. Prosesor sentral menangani instruksi umum, sedangkan pemroses grafis memiliki kemampuan untuk operasi paralel. Di sisi lain, NPU dioptimalkan bagi beban AI tertentu. Dengan kombinasi komponen itu, sistem dapat memilih akselerator yang didukung. Meski memiliki beberapa akselerator, tidak semua aplikasi otomatis memanfaatkan ketiganya.

Dalam model Ryzen AI Max PRO 400 Series kelas atas, AMD menyediakan CPU hingga 16 inti Zen 5, kapasitas pemrosesan grafis hingga 40 CU, dan unit AI berkapasitas maksimum 55 triliun operasi per detik. Spesifikasi tersebut dikembangkan bagi pengembangan AI lokal. Meski nilai komputasi terlihat tinggi, angka TOPS bukan satu-satunya penentu performa semua model bahasa. Dalam pemrosesan model besar, efisiensi memori serta runtime memiliki pengaruh besar. Dengan mempertimbangkan kondisi ini, penilaian perangkat sebaiknya menggunakan performa sesuai aplikasi yang akan dijalankan, bukan sekadar membandingkan jumlah TOPS.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Dalam menjelaskan performa perangkat, AMD mengumumkan pengujian kinerja perusahaan. Rangkaian benchmark tersebut mencakup berbagai tugas pemrosesan model seperti pemrosesan grafis berbasis AI dan pengolahan LLM. Dalam hasil uji yang diumumkan, keunggulan performa bervariasi dari sekitar 1,1 kali hingga hasil tertentu yang mencapai 32,2 kali terhadap platform pembanding yang digunakan. Sebagai catatan penting, data performa merupakan klaim berdasarkan skenario perusahaan. Dengan mempertimbangkan sumber pengujian, peningkatan maksimum bukan gambaran performa umum.

Berdasarkan evaluasi tertentu, AMD menjalankan ComfyUI untuk pemrosesan gambar generatif. Dalam evaluasi model bahasa digunakan pendekatan kuantisasi yang disediakan Unsloth pada beberapa pengujian inferensi. Konfigurasi quantization berperan terhadap hasil benchmark. Selain itu, panjang konteks percakapan berpotensi mengubah kebutuhan RAM tambahan. Pada konteks sangat panjang, respons berpotensi menjadi lebih lambat meskipun kapasitas memori mencukupi. Dengan demikian, pengembang sebaiknya melakukan hasil evaluasi pada pekerjaan nyata sebelum menyimpulkan keunggulan performa.

Teknologi Gorgon Halo Membuka Peluang Komputasi Mandiri Tanpa Cloud

Peluang utama Gorgon Halo adalah pengujian model bahasa tanpa server eksternal. Dengan dukungan memori terpadu, organisasi memiliki kesempatan memanfaatkan model bahasa besar langsung pada perangkat yang dikelola sendiri. Pendekatan ini berpotensi mendukung pengujian aplikasi tanpa ketergantungan penuh pada cloud. Pada kebutuhan pengembangan, perusahaan dapat mencoba sistem pencarian informasi yang menggunakan informasi tanpa selalu mengirimnya ke layanan eksternal. Meski model berjalan tanpa cloud, privasi tidak otomatis terjamin. Perangkat lunak inferensi berpotensi mengakses layanan tambahan, sehingga izin dan konfigurasi perlu diperiksa.

Selain model bahasa, Gorgon Halo dapat dimanfaatkan dalam pembuatan agentic workflows. Ketika aplikasi otomatis dirancang, pekerjaan dapat melibatkan sejumlah komponen. Pada contoh alur kerja, agen dapat membaca dokumen proyek, kemudian menghasilkan rekomendasi berdasarkan informasi yang tersedia. Ruang kerja komputasi yang besar memberikan kesempatan menjalankan informasi konteks berukuran besar. Meski memungkinkan pemrosesan lebih luas, aplikasi kompleks harus mempertimbangkan pengaturan sumber daya. Selain itu, informasi keluaran sebaiknya diperiksa agar keputusan sistem tetap sesuai tujuan.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengungkapan kemampuan Gorgon Halo oleh AMD menunjukkan kemajuan penting dalam industri komputer berkinerja tinggi. Melalui dukungan memori terpadu hingga 192GB, dukungan memori GPU hingga 160GB, serta arsitektur pemrosesan AMD yang terintegrasi, platform tersebut memberikan kesempatan inferensi model bahasa besar. Potensi pemrosesan model sangat besar menggunakan representasi model berpresisi rendah memberikan nilai penting bagi peneliti AI. Walaupun spesifikasinya menjanjikan, hasil inferensi tetap perlu diuji berdasarkan dukungan perangkat lunak dan kebutuhan komputasi. Oleh sebab itu, pengembang perlu mengevaluasi konfigurasi berdasarkan beban kerja. Menurut Anda, apakah memori terpadu 192GB akan membuat AI lokal semakin menarik? Silakan bagikan pendapat Anda mengenai pemanfaatan memori terpadu pada komputer generasi terbaru.