mistral small 24b instruct

Hiç yapay zeka dünyasının sadece büyük sunucuları ve derin cepleri olanlar için olduğunu hissettiniz mi? Bu değişmeye başladı ve Mistral AI bu devrimin ön saflarında yer alıyor. Yeni sürümleri Mistral Small 3, sadece başka bir model değil; bir oyun değiştirici. Bu 24 milyar parametre modeli hız ve verimlilik için tasarlanmıştır, Llama 3.3 70B gibi devlere rakiptir ve Apache 2.0 lisansı altında mevcuttur. Evet, doğru okudunuz: açık kaynak ve şimşek hızlı. Şaşırmaya hazır olun, çünkü bu sadece bir sayıdan daha fazlasıdır; bu bir paradigma değişimidir.

Neden Heyecanlı Olmalısın

Mistral Small 3, kıyaslama puanlarında övünme haklarıyla ilgili değildir; gerçek dünyadaki kullanım durumları için tasarlanmıştır. işte bu yüzden dikkat etmeniz gerekiyor:

Hız Şeytanı: Daha büyük modellerin gecikme sorunlarını unutun. Mistral Small 3, diğer açık modelleri ve hatta bazı tescilli modelleri yenerek düşük gecikmelilik için tasarlanmıştır. Aynı donanımda Llama 3.3 70B’den 3 kat daha hızlı konuşuyoruz. Bu, bir çevirmeli modemden fiber internete gitmek gibi bir şey.
Power-pack: Bu model ağırlık sınıfının üzerinde yumruk atıyor. Mistral Small 3, kendi büyüklüğünün üç katı modellerle rekabet ediyor ve günlük üretken AI görevlerinin ‘% 80’i için en iyi performans sunuyor. Artık boyut ve performans açısından ticaret yapmıyoruz.
Open & Free: Apache 2.0 lisansı altında piyasaya sürülen, tamamen açık kaynaklıdır. indir, özelleştirin, istediğiniz yerde kullanın - ekli dize yok. Güç artık bizim elimizde ve tamamen özgür!

Mistral Small 3 sadece konuşmak değil; bunu kanıtlamak için ölçütleri var. işte etkileyici sayılara hızlı bir bakış:

insan Değerlendirmeleri: Mistral, 1000'den fazla istem kullanarak diğer modellere karşı kör karşılaştırmalar yaptı. Bağımsız evsal tahliyeciler, Mistral Small 3'ten gelen yanıtları sürekli olarak tercih etti.
Talih Performansı: Öğretim tarafından ayarlanan model, kodlama, matematik, genel bilgi ve talimattaki çok daha büyük modellere karşı kendi başınadır. Temel olarak, bir görevde talimat verildiğinde bile, çıktının en iyilerle eşit olduğunu söylüyorlar.
Öne Çıkan Performans: Temel model bile etkileyici, Llama 3.3 70B gibi rakip modeller. Bu, RL veya sentetik verilerle eğitilmemiş olan bu temel modelin zaten oldukça güçlü olduğu anlamına geliyor.
görsel
Mistral 3’ü Nereden Kullanabilirsiniz?

Mistral Small 3 sadece laboratuvar için değil. Bunun için yeterince çok yönlüdür:

Hızlı Konuşma Yardımı: Hızlı, doğru bir sohbet robotuna mı ihtiyacınız var? Bu senin modelin.
Düşük Gerginlik Fonksiyon Çağrıları: Otomatik iş akışları ve acentik görevler için idealdir.
ince Ayarlanmış Konu Uzmanları: Yasal tavsiye, tıbbi teşhis ve daha fazlası için özelleştirin.
Yerel Çıkarım: Tek bir RTX 4090 veya 32 GB RAM'li bir MacBook'ta özel olarak çalıştırın. Buluta gerek yok!