Pelancaran terbaru Steiner, satu usaha sumber terbuka untuk menghasilkan semula keupayaan OpenAI o1, telah mencetuskan minat yang ketara dalam komuniti pembangun, terutamanya berkaitan dengan kebolehcapaian dan pilihan pengerahannya. Walaupun model ini menunjukkan hasil yang memberangsangkan dengan peningkatan +5.56 pada dataset GPQA-Diamond, fokus komuniti lebih tertumpu kepada aspek pelaksanaan praktikal dan kaedah pengerahan.
Akses Mudah Melalui Ollama
Satu perkembangan utama yang diketengahkan dalam perbincangan komuniti ialah ketersediaan Steiner melalui Ollama, menjadikannya lebih mudah diakses oleh pengguna harian. Pengguna kini boleh menjalankan model ini menggunakan arahan mudah:
ollama run hf.co/peakji/steiner-32b-preview-gguf:Q4_K_M
Model ini tersedia dalam format GGUF di Hugging Face, menjadikannya serasi dengan pelbagai pilihan pengerahan. Kebolehcapaian ini telah diterima baik oleh komuniti, terutamanya bagi mereka yang ingin bereksperimen dengan keupayaan penaakulan lanjutan tanpa kos dan sekatan yang berkaitan dengan OpenAI.
Penjelasan Teknikal
Sebagai respons kepada pertanyaan komuniti, pembangun menjelaskan bahawa Steiner bukan sekadar algoritma yang dilapisi di atas LLM sedia ada, tetapi merupakan model bahasa yang diperhalusi menggunakan dataset baharu dan ganjaran pembelajaran pengukuhan. Walaupun berasaskan Qwen2.5-32B, ia dioptimumkan khusus untuk tugas penaakulan, namun tidak disyorkan sebagai pengganti langsung untuk model kegunaan umum seperti Llama.
Prestasi dan Batasan
Perbincangan komuniti telah mendedahkan kedua-dua semangat dan kebimbangan pragmatik tentang keupayaan Steiner:
- Penanda Aras : Model ini menunjukkan peningkatan +5.56 pada dataset GPQA-Diamond, membina di atas prestasi asas Qwen2.5-32B sebanyak 49.49
- Keupayaan Penaakulan : Menurut pembangun, model ini boleh menyelesaikan masalah kompleks yang sukar ditangani oleh model bersaiz serupa yang lain, walaupun ini tidak sentiasa terpancar dalam penanda aras tradisional
- Batasan Semasa :
- Tidak dioptimumkan untuk dialog berbilang pusingan
- Kebanyakannya berfungsi dengan token penaakulan Bahasa Inggeris
- Belum dapat menghasilkan semula keupayaan penskalaan masa inferens o1
Potensi Masa Depan
Komuniti telah menyatakan minat khusus terhadap potensi Steiner sebagai alternatif sumber terbuka kepada o1 OpenAI, terutamanya memandangkan landskap semasa perkhidmatan AI komersial. Walaupun model ini belum mencapai semua keupayaan o1, sifat sumber terbukanya dan pembangunan aktif menjadikannya projek yang menjanjikan bagi mereka yang berminat dalam sistem penaakulan lanjutan.
Pembangun terus berusaha untuk meningkatkan keupayaan model, dengan fokus khusus kepada menangani cabaran penskalaan masa inferens yang setakat ini masih sukar dicapai.