AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Ryzen AI Max 400 Series Membuka Peluang Baru bagi Pemrosesan AI Lokal

Perkembangan TEKNOLOGI kecerdasan buatan semakin meningkatkan kebutuhan perangkat komputasi. Dengan menghadirkan keluarga prosesor terbaru, AMD mengembangkan potensi perangkat workstation untuk memproses kecerdasan buatan secara mandiri. Keluarga prosesor terbaru tersebut mengintegrasikan unit pemrosesan utama, akselerasi GPU, dan NPU khusus AI dalam satu rancangan perangkat keras. Pendekatan pemrosesan tersebut dikembangkan guna mendukung aktivitas generatif kompleks dengan dukungan memori berkapasitas besar. Pada penggunaan profesional, kapasitas memori sering menjadi faktor pembatas utama. Karena itu, AMD mengutamakan arsitektur unified memory sebagai bagian penting pengembangan.

Gorgon Halo menjadi pengembangan lanjutan dari keluarga Strix Halo. Kemajuan utama generasi ini adalah dukungan RAM yang lebih besar. Dalam konfigurasi terdahulu, batas memori sistem berada pada 128 gigabyte. Pada jajaran terbaru, kapasitas memori meningkat hingga 192GB. Perubahan kapasitas ini memberikan ruang lebih besar bagi sistem agen AI. Walaupun kapasitas meningkat, setiap perangkat tidak otomatis memiliki RAM maksimal. Dengan memahami perbedaan tersebut, calon pembeli sebaiknya meninjau konfigurasi aktual sebelum merencanakan pemrosesan model besar.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Karakteristik yang paling menonjol Gorgon Halo adalah sistem memori terpadu yang mengintegrasikan akses memori untuk komponen pemrosesan kapasitas memori sistem. Tidak sama dengan komputer dengan GPU diskret, arsitektur tersebut dapat mengurangi perpindahan data tertentu antara unit pemrosesan yang terintegrasi. Keuntungan tersebut dapat membantu ketika menggunakan aplikasi dengan kebutuhan memori tinggi. Pada inferensi model bahasa, bobot model membutuhkan ruang penyimpanan kerja. Melalui dukungan memori besar, perangkat berpotensi memuat lebih banyak parameter.

AMD menjelaskan, platform terbaru dapat mengalokasikan ruang kerja GPU sebesar 160 gigabyte. Kapasitas grafis ini bukan berarti perangkat memiliki VRAM fisik terpisah. Sebaliknya, GPU memanfaatkan bagian memori sistem. Perbedaan ini harus menjadi pertimbangan karena sistem operasi juga menggunakan RAM. Apabila kapasitas tersedia semakin terbatas, performa sistem dapat terpengaruh. Di samping kapasitas RAM, bandwidth memori juga memengaruhi kecepatan inferensi. Karena itu, kapasitas memori tinggi perlu diimbangi bandwidth yang sesuai.

Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal

Aspek menarik dari pengembangan Gorgon Halo adalah pemrosesan jaringan saraf berskala tinggi. Menurut AMD, platform dengan memori maksimal memungkinkan penggunaan model dengan lebih dari 300 miliar parameter menggunakan representasi bobot empat bit. Dukungan pemrosesan ini membuka peluang baru bagi peneliti model bahasa yang ingin bereksperimen secara lokal. Meski jumlah parameternya tinggi, menjalankan model tidak sama dengan menghasilkan token dengan latensi rendah. Performa inferensi aktual bergantung pada bandwidth memori serta metode kompresi.

Metode kompresi bobot berperan penting dalam memungkinkan model berukuran besar berjalan. Pada format presisi tinggi, model memerlukan ruang memori lebih banyak. Untuk ilustrasi teknis, model 300 miliar parameter pada presisi 16-bit memiliki ukuran parameter teoritis mendekati 600GB. Apabila setiap bobot direpresentasikan dengan empat bit, estimasi parameter murni menjadi sekitar 150 gigabyte. Perlu dipahami, format quantization nyata memerlukan metadata. Tidak hanya untuk bobot, aplikasi AI harus menyediakan KV cache. Dengan mempertimbangkan kebutuhan tersebut, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Selain memori terpadu, Gorgon Halo juga menggunakan arsitektur CPU Zen 5, GPU terintegrasi berbasis RDNA 3.5, dan NPU XDNA 2. Perpaduan tiga komponen ini memungkinkan pembagian pekerjaan berdasarkan karakter beban kerja. CPU berfungsi menjalankan berbagai proses aplikasi, sedangkan pemroses grafis berperan besar dalam operasi paralel. Sementara itu, NPU dikembangkan guna menangani pekerjaan neural yang kompatibel. Dengan kombinasi komponen itu, aplikasi memiliki peluang memanfaatkan sumber komputasi sesuai kebutuhan. Namun demikian, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Untuk perangkat Gorgon Halo berkapasitas maksimal, AMD menghadirkan CPU hingga 16 inti Zen 5, kapasitas pemrosesan grafis hingga 40 CU, dan akselerator neural dengan kemampuan sampai 55 TOPS. Spesifikasi tersebut ditujukan untuk aktivitas komputasi profesional. Namun demikian, angka TOPS bukan satu-satunya penentu performa semua model bahasa. Pada inferensi LLM, bandwidth RAM dan dukungan GPU perlu diperhatikan secara khusus. Oleh sebab itu, penilaian perangkat sebaiknya menggunakan hasil benchmark pada model yang relevan, bukan hanya melihat angka spesifikasi.

AMD Memperlihatkan Performa Ryzen AI Max 400 Series pada Berbagai Beban Kerja

Sebagai bagian dari pengenalan Gorgon Halo, AMD membagikan hasil benchmark internal. Evaluasi performa ini melibatkan beban kerja AI generatif seperti pemrosesan grafis berbasis AI dan pengolahan LLM. Berdasarkan presentasi perusahaan, peningkatan kecepatan tidak sama pada setiap model dari selisih performa kecil sekitar 1,1 kali hingga peningkatan maksimum 32,2 kali terhadap sistem lain yang menjadi acuan. Namun demikian, angka tersebut berasal dari benchmark yang dipilih AMD. Dengan mempertimbangkan sumber pengujian, peningkatan maksimum bukan gambaran performa umum.

Dalam beberapa pengujian, AMD menjalankan ComfyUI untuk pembuatan visual berbasis AI. Dalam evaluasi model bahasa digunakan model terkompresi dengan dukungan Unsloth pada skenario pemrosesan model. Jenis perangkat lunak pengujian berperan terhadap konsumsi memori. Tidak kalah penting, panjang konteks percakapan berpotensi mengubah throughput pemrosesan. Ketika jumlah token meningkat besar, kecepatan dapat menurun meskipun perangkat mampu menjalankan inferensi. Oleh karena itu, pengguna profesional dianjurkan memeriksa pengujian independen sebelum mengambil keputusan pembelian.

Manfaat Memori Besar AMD bagi Developer serta Perusahaan

Peluang utama Gorgon Halo adalah pembuatan sistem kecerdasan buatan di perangkat. Melalui platform tersebut, tim teknologi dapat menguji aplikasi generatif langsung pada perangkat yang dikelola sendiri. Pendekatan ini memungkinkan eksperimen model secara lebih mandiri. Dalam skenario profesional, tim internal bisa menyiapkan sistem pencarian informasi yang menggunakan informasi tanpa selalu mengirimnya ke layanan eksternal. Namun demikian, privasi tidak otomatis terjamin. Aplikasi pendukung mungkin memiliki koneksi jaringan, sehingga pengguna perlu memahami kebijakan aplikasi.

Tidak hanya mendukung pemrosesan teks, Gorgon Halo juga relevan untuk pembuatan agentic workflows. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Dalam penggunaan praktis, agen dapat membaca berkas referensi, kemudian menentukan langkah lanjutan berdasarkan instruksi pengguna. Ruang kerja komputasi yang besar memberikan kesempatan menjalankan model serta data dalam satu sistem. Namun demikian, aplikasi kompleks harus mempertimbangkan pengendalian konsumsi RAM. Selain itu, hasil setiap agen perlu diverifikasi agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Teknologi Ryzen AI Max 400 Series Mendukung Komputasi AI Masa Depan

Pengembangan platform AI lokal generasi terbaru AMD menjadi perkembangan menarik dalam pengembangan sistem AI pada perangkat pribadi. Dengan menghadirkan memori terpadu hingga 192GB, alokasi grafis sampai 160GB, serta perpaduan komputasi umum, grafis, dan akselerator AI, sistem Gorgon Halo memberikan kesempatan pengembangan agen digital. Dukungan LLM berukuran lebih dari 300 miliar parameter menggunakan kompresi bobot empat bit memberikan nilai penting bagi peneliti AI. Namun demikian, kecepatan model sebaiknya diperiksa berdasarkan dukungan perangkat lunak dan konfigurasi perangkat. Dengan mempertimbangkan berbagai faktor, perusahaan dianjurkan menentukan sistem yang seimbang antara performa dan biaya. Bagaimana pendapat Anda mengenai, apakah Gorgon Halo dapat menjadi pilihan utama untuk workstation AI? Silakan bagikan pendapat Anda mengenai masa depan AI lokal.