Makin Lancar Jalankan DeepSeek AI dengan Prosesor AMD Ryzen™ AI & Kartu Grafis AMD Radeon™ RX

Kecerdasan buatan (AI) terus berkembang dengan pesat, menghadirkan berbagai model dengan kemampuan yang semakin pintar dan efisien dalam menangani tugas-tugas kompleks. Salah satu yang menarik perhatian belakangan ini adalah kemunculan DeepSeek AI yang berhasil menciptakan sebuah model reasoning, dirancang untuk menangani tugas-tugas yang memerlukan pemikiran mendalam. Model ini menggunakan metode “chain-of-thought” (CoT) yang memungkinkan untuk memecah masalah menjadi langkah-langkah kecil sebelum memberikan jawaban akhir. Namun, salah satu tantangan utama dalam mengembangkan model reasoning canggih ini adalah resource komputasi yang besar. Untuk mengatasi hal ini, dibuatlah model DeepSeek R1 yang telah didistilasi menjadi versi lebih kecil, sehingga tetap mempertahankan sebagian besar kemampuannya namun masih dapat berjalan pada mayoritas perangkat.

Dalam upaya menghadirkan teknologi AI yang lebih mudah diakses, AMD telah memastikan bahwa model distilasi DeepSeek R1 dapat berjalan dengan lancar di perangkat bertenaga prosesor AMD Ryzen™ AI dan kartu grafis AMD Radeon RX™. Lewat platform LM Studio, pengguna dapat menjalankan model AI ini secara lokal tanpa harus bergantung pada layanan cloud yang mahal. Salah satu model DeepSeek AI yang optimal di prosesor AMD Ryzen™ AI dan kartu grafis AMD Radeon RX™ adalah model DeepSeek-R1, dengan kemampuan sebanding dengan model AI lainnya, namun dengan biaya training yang jauh lebih rendah.

Baca juga : AI Generative Image dengan AMD Ryzen™ AI yang Semakin Canggih Dan Efisien!

Platform AMD Optimal untuk DeepSeek AI

DeepSeek AI pada beberapa pengujian menunjukkan keunggulan signifikan saat dijalankan pada platform AMD berkat kemampuan hardware AMD dalam mengoptimalkan model AI terbarunya seperti DeepSeek R1-Distill-Qwen, yang dirancang untuk menangani tugas-tugas kompleks dengan menggunakan metode “chain-of-thought” (CoT). Model ini telah didistilasi menjadi versi yang lebih kecil namun tetap memiliki kemampuan tinggi. Model distilasi DeepSeek R1 untuk saat ini dapat dijalankan dengan mudah pada perangkat berprosesor AMD Ryzen™ AI maupun kartu grafis AMD Radeon™ RX 7000 melalui LM Studio.

Dalam pengujian singkat yang dilakukan di atas, terdapat perbandingan antara performa kartu grafis AMD Radeon™ RX 7900 XTX dengan kompetitornya, yaitu NVIDIA GeForce RTX 4090 dan GeForce RTX 4080 SUPER. Hasilnya kartu grafis AMD Radeon™ RX 7900 XTX terbukti lebih cepat hingga 34% dibandingkan Geforce RTX 4080 SUPER dan 13% lebih unggul dari Geforce RTX 4090 saat menjalankan model DeepSeek R1-Distill-Qwen-7B.

Baca juga : Maksimalkan Produktivitasmu dengan AMD Ryzen™ AI: Tangguh Jalankan Beragam Aplikasi AI!

Cara Menjalankan DeepSeek AI di Perangkat Bertenaga AMD

Bagi pengguna yang ingin menjalankan DeepSeek R1 versi distilasi di perangkat AMD, ada beberapa persyaratan perangkat lunak yang harus dipenuhi diantaranya:

• Driver GPU yang Diperbarui: Pengguna disarankan untuk menggunakan driver Adrenalin versi 25.1.1 atau lebih baru untuk memastikan kompatibilitas penuh dengan model AI ini.
• LM Studio Terbaru: Pastikan untuk menginstal LM Studio versi 0.3.8 atau lebih baru, yang merupakan platform AI open-source yang memungkinkan eksekusi model AI lokal dengan optimal.
• Pemilihan Model yang Tepat: Setelah proses instalasi selesai, pengguna dapat memilih model distilasi DeepSeek R1 yang sesuai dengan spesifikasi perangkat keras mereka melalui tab “discover” di LM Studio.

Rekomendasi Konfigurasi Perangkat AMD untuk DeepSeek AI

Lini prosesor AMD Ryzen™ Mobile dengan NPU terintegrasi AMD Ryzen™ AI mampu menjalankan model reasoning pada DeepSeek secara optimal. Berkat kehadiran Neural Processing Unit (NPU) dengan kemampuan hingga 50 TOPS, laptop dengan prosesor berikut ini dapat memproses model AI secara lokal tanpa harus bergantung pada cloud. Memungkinkan DeepSeek beroperasi dengan lancar, efisien, dan tetap berjalan secara maksimal.

*= AMD merekomendasikan semua distill dijalankan dalam Q4 K M quantization.
¹= Memerlukan Variable Graphics Memory disetel ke Custom: 24GB.

²= Memerlukan Variable Graphics Memory disetel ke High. 

*= AMD merekomendasikan semua distill dijalankan dalam Q4 K M quantization.

¹= Menunjukkan distill maksimum yang didukung tanpa offload parsial ke GPU.

AMD juga telah menyediakan panduan untuk memilih ukuran model DeepSeek R1 yang sesuai dengan spesifikasi perangkat keras tertentu. Berikut adalah beberapa rekomendasi yang diberikan AMD:

• Prosesor AMD Ryzen™ AI Max+ 395 dengan memori 64 GB atau 128 GB disarankan untuk menjalankan DeepSeek R1-Distill-Llama-70B.
• Kartu Grafis AMD Radeon™ RX 7900 XTX direkomendasikan untuk model DeepSeek-R1-Distill-Qwen-32B, yang lebih ringan namun tetap sangat kuat dalam menangani tugas reasoning.

Dengan panduan ini, pengguna dapat memilih model yang paling cocok untuk sistem mereka, memastikan bahwa mereka mendapatkan performa terbaik saat menjalankan Model DeepSeek R1.

Cek detail cara selengkapnya melalui tautan berikut ini :

https://community.amd.com/t5/ai/experience-the-deepseek-r1-distilled-reasoning-models-on-amd/ba-p/740593

Kesimpulan : AMD Maksimalkan Model AI Reasoning Tanpa Cloud

Berkat optimasi yang dilakukan oleh AMD, kini model distilasi seperti DeepSeek R1 dapat dijalankan secara efisien pada prosesor AMD Ryzen™ AI dan kartu grafis AMD Radeon™ RX melalui LM Studio. Dengan driver versi terbaru dan konfigurasi perangkat keras yang sesuai, pengguna dapat menjalankan model seperti Deepseek AI ini tanpa harus bergantung pada layanan cloud yang mahal, sehingga privasi data lebih terjaga. Dukungan dari AMD semakin mempercepat adopsi AI secara lokal, menjadikan teknologi ini lebih terjangkau, efisien, dan mudah diakses oleh lebih banyak pengguna.