Model AI DeepSeek Menunjukkan Prestasi Cemerlang pada GPU Moore Threads Buatan China
Model AI DeepSeek Menunjukkan Prestasi Cemerlang pada GPU Moore Threads Buatan China
Landskap kecerdasan buatan menyaksikan perkembangan penting apabila model AI sumber terbuka DeepSeek menunjukkan keserasian dengan GPU buatan China Moore Threads, yang berpotensi mengurangkan pergantungan pada perkakasan NVIDIA tradisional untuk tugas-tugas inferens AI.Pencapaian TeknikalMoore Threads telah berjaya menggunakan model DeepSeek-R1-Distill-Qwen-7B pada kedua-dua kad grafik pelanggan MTT S80 dan kad grafik gred pusat data MTT S4000. Pelaksanaan ini menggunakan rangka kerja Ollama, iaitu penyelesaian ringan yang direka untuk menjalankan model bahasa besar secara tempatan pada pelbagai sistem operasi, digabungkan dengan pengoptimuman enjin inferens proprietari Moore Threads.Harga API DeepSeek: USD 2.2 bagi sejuta token outputHarga API OpenAI: USD 60 bagi sejuta token outputPerkakasan yang Disokong: MTT S80 (GPU pelanggan), MTT S4000 (GPU pusat data)Sokongan Rangka Kerja: Ollama (MacOS, Linux, Windows)Model yang Serasi: DeepSeek-R1-Distill-Qwen-7BKesan PasaranPerkembangan ini berlaku pada masa yang kritikal ketika DeepSeek sedang membuat kejutan dalam komuniti AI global. Strategi harga syarikat ini sangat agresif, menawarkan perkhidmatan API pada kadar 2.2 dolar Amerika bagi sejuta token output, jauh lebih rendah berbanding kadar OpenAI sebanyak 60 dolar Amerika bagi sejuta token. Syarikat teknologi utama China termasuk Alibaba, ByteDance, Baidu, dan JD Cloud telah mengintegrasikan model DeepSeek ke dalam perkhidmatan awan mereka.Prestasi dan IntegrasiWalaupun metrik prestasi khusus belum didedahkan, Moore Threads mendakwa hasil yang cemerlang melalui pengoptimuman pengiraan khas dan pengurusan memori yang lebih baik. GPU syarikat ini telah menunjukkan keserasian CUDA, yang sangat bermanfaat untuk aplikasi bahasa Cina. Integrasi ini mewakili langkah penting ke hadapan dalam keupayaan perkakasan AI domestik China.Implikasi Masa DepanKejayaan penggunaan model DeepSeek pada GPU Moore Threads menandakan perubahan yang berpotensi dalam landskap perkakasan AI. Perkembangan ini boleh membawa kepada pilihan pelaksanaan AI yang lebih berpatutan dan mudah diakses, terutamanya di pasaran China. Walau bagaimanapun, penting untuk diperhatikan bahawa demonstrasi semasa terhad kepada model yang telah disuling, dan perbandingan prestasi menyeluruh dengan penyelesaian AMD, Apple, atau NVIDIA masih belum ditentukan.
AI
35 minit yang lalu
Hubble Menemui Galaksi Memecah Rekod dengan Sembilan Cincin Sepusat
Journal Article
9 jam yang lalu
Hubble Menemui Galaksi Memecah Rekod dengan Sembilan Cincin Sepusat
Figure AI Tamatkan Kerjasama dengan OpenAI, Beralih kepada Pembangunan AI Dalaman untuk Robot Humanoid
AI
11 jam yang lalu
Figure AI Tamatkan Kerjasama dengan OpenAI, Beralih kepada Pembangunan AI Dalaman untuk Robot Humanoid
Masa Kompilasi Pantas Zig Memenangi Pasukan Pengkompil Roc, Mencetuskan Penulisan Semula Besar-besaran
14 jam yang lalu
Masa Kompilasi Pantas Zig Memenangi Pasukan Pengkompil Roc, Mencetuskan Penulisan Semula Besar-besaran
Perpustakaan Mesh LOD Berterusan NVIDIA: Alternatif Teknikal kepada Nanite Unreal
GPU
20 jam yang lalu
Perpustakaan Mesh LOD Berterusan NVIDIA: Alternatif Teknikal kepada Nanite Unreal
Apple Melancarkan Aplikasi Invites: Penyelesaian Perancangan Acara Baharu yang Disepadukan dengan iOS
Aplikasi
20 jam yang lalu
Apple Melancarkan Aplikasi Invites: Penyelesaian Perancangan Acara Baharu yang Disepadukan dengan iOS
Kemaskini Keselamatan Android Kritikal Dikeluarkan: Kerentanan Zero-Day Memerlukan Tindakan Segera
Keamanan
23 jam yang lalu
Kemaskini Keselamatan Android Kritikal Dikeluarkan: Kerentanan Zero-Day Memerlukan Tindakan Segera
Pembangunan Pemacu RDNA 4 oleh Valve Mencetuskan Spekulasi Konsol Steam, Tetapi Realiti Menunjukkan Sokongan SteamOS
23 jam yang lalu
Pembangunan Pemacu RDNA 4 oleh Valve Mencetuskan Spekulasi Konsol Steam, Tetapi Realiti Menunjukkan Sokongan SteamOS
Model AI Qwen2.5-Max Alibaba Mendahului Dunia dalam Bidang Matematik dan Pengaturcaraan
AI
Semalam
Model AI Qwen2.5-Max Alibaba Mendahului Dunia dalam Bidang Matematik dan Pengaturcaraan
Alat Pembersih LaTeX Mencetuskan Perbahasan Mengenai Ketelusan Penyelidikan dan Privasi Kod
Semalam
Alat Pembersih LaTeX Mencetuskan Perbahasan Mengenai Ketelusan Penyelidikan dan Privasi Kod
Alat Pengecaman Pertuturan Senyap Menimbulkan Kebimbangan Privasi Sambil Menjanjikan Masa Depan Antara Muka Baharu
AI
Semalam
Alat Pengecaman Pertuturan Senyap Menimbulkan Kebimbangan Privasi Sambil Menjanjikan Masa Depan Antara Muka Baharu
Projek Discord Messenger Mencabar Batasan: Kini Serasi dengan Windows 95
Aplikasi
Semalam
Projek Discord Messenger Mencabar Batasan: Kini Serasi dengan Windows 95
Pembangunan Perlahan dan Pepijat Berterusan Mailspring Menimbulkan Kebimbangan Komuniti Walaupun Prestasi Kukuh
Aplikasi
Semalam
Pembangunan Perlahan dan Pepijat Berterusan Mailspring Menimbulkan Kebimbangan Komuniti Walaupun Prestasi Kukuh
Alat Sumber Terbuka Baharu 'httptap' Membolehkan Pemeriksaan Trafik HTTP/HTTPS Tanpa Akses Root
Keamanan
Semalam
Alat Sumber Terbuka Baharu 'httptap' Membolehkan Pemeriksaan Trafik HTTP/HTTPS Tanpa Akses Root
Perbahasan Pakar: Adakah Kebarangkalian Log Boleh Dipercayai untuk Mengukur Ketidakpastian LLM?
AI
Semalam
Perbahasan Pakar: Adakah Kebarangkalian Log Boleh Dipercayai untuk Mengukur Ketidakpastian LLM?
Kerentanan Mikrokod CPU AMD Mencetuskan Perbahasan Keselamatan RDRAND
Keamanan
Semalam
Kerentanan Mikrokod CPU AMD Mencetuskan Perbahasan Keselamatan RDRAND
Perkhidmatan VPN Microsoft 365 Akan Ditamatkan pada 28 Februari
Microsoft
Semalam
Perkhidmatan VPN Microsoft 365 Akan Ditamatkan pada 28 Februari
Telefon Permainan Bajet ZTE Nubia V70 Max: Paparan 6.9-inci dan Bateri 6,000mAh Dilancarkan Pada Harga 5,299 Peso Filipina
Telefon
Semalam
Telefon Permainan Bajet ZTE Nubia V70 Max: Paparan 6.9-inci dan Bateri 6,000mAh Dilancarkan Pada Harga 5,299 Peso Filipina
DeepSeek R1 Setanding Dengan Prestasi OpenAI o1 Dengan Kos Latihan Hanya 5.5 Juta Dolar Amerika
AI
2 hari yang lalu
DeepSeek R1 Setanding Dengan Prestasi OpenAI o1 Dengan Kos Latihan Hanya 5.5 Juta Dolar Amerika
Amalan Penguncian Data Garmin Mencetuskan Kebimbangan Komuniti Mengenai Integrasi Peranti dan Akses Data
Peranti Boleh Pakai
2 hari yang lalu
Amalan Penguncian Data Garmin Mencetuskan Kebimbangan Komuniti Mengenai Integrasi Peranti dan Akses Data