AMD telah menunjukkan kemajuan ketara dalam keupayaan pemprosesan AI dengan APU Strix Point terbarunya, mempamerkan metrik prestasi yang mengagumkan dalam aplikasi model bahasa besar (LLM) tempatan. Ujian terkini syarikat ini mendedahkan cerita menarik tentang masa depan pemprosesan AI dalam perkakasan pengguna.
Pencapaian Cemerlang dalam Pemprosesan LLM
Pemproses unggulan AMD Ryzen AI 9 HX 375 telah menunjukkan keupayaan luar biasa dalam aplikasi LLM, mencapai penjanaan token sehingga 27% lebih pantas berbanding Intel Core Ultra 7 258V. Ujian yang dijalankan menggunakan LM Studio, mempamerkan keupayaan pemproses untuk mengendalikan pelbagai model LLM popular termasuk Llama 3.2 dari Meta, Phi 3.1 dari Microsoft, Gemma 2 dari Google, dan model Nemo dari Mistral dengan kecekapan yang lebih tinggi.
Pecutan GPU Termaju dan Pengurusan Memori
APU Strix Point menggabungkan ciri-ciri pecutan GPU canggih menggunakan API Vulkan, yang terbukti sangat berkesan. Apabila pecutan GPU diaktifkan, HX 375 menunjukkan prestasi token per saat sehingga 20% lebih pantas berbanding operasi tanpa pecutan. Pelaksanaan teknologi Variable Graphics Memory (VGM) membolehkan pengagihan semula memori secara dinamik, menghasilkan peningkatan prestasi yang mengagumkan sebanyak 60% apabila digabungkan dengan pecutan GPU.
Persekitaran Ujian Komprehensif
Metodologi ujian AMD menggunakan LM Studio, aplikasi desktop mesra pengguna yang dibina pada rangka kerja llama.cpp. Pengoptimuman perisian untuk CPU x86 melalui arahan AVX2, digabungkan dengan keupayaan pecutan GPU, menyediakan platform yang kukuh untuk menilai prestasi AI dalam keadaan sebenar. Yang menariknya, Ryzen AI 9 HX 375 mencapai keputusan ini walaupun beroperasi dengan RAM yang lebih perlahan (7500 MT/s) berbanding sistem Intel yang menggunakan 8533 MT/s.
Implikasi Lebih Luas untuk AI Pengguna
Kepentingan peningkatan prestasi ini melampaui angka semata-mata, menunjukkan kedudukan strategik AMD dalam pasaran AI pengguna yang semakin berkembang. Walaupun perbandingan dibuat dengan pemproses pertengahan Intel dan bukannya model flagship mereka menimbulkan beberapa persoalan tentang kepimpinan prestasi mutlak, namun keputusan ini tetap menunjukkan komitmen kukuh AMD dalam memajukan keupayaan pemprosesan AI yang mudah diakses pengguna.
Pandangan ke Hadapan
Dengan beban kerja AI yang semakin lazim dalam aplikasi pengguna, kelebihan prestasi AMD yang ditunjukkan dalam pemprosesan LLM mencadangkan arah yang menjanjikan untuk pembangunan perkakasan masa depan. Gabungan keupayaan NPU dan pecutan GPU yang cekap menunjukkan pendekatan matang dalam mengendalikan tugas AI, berpotensi menetapkan standard baharu untuk platform pengkomputeran mudah alih.