Microsoft tarafından Windows 11 işletim sistemine yerleştirilmiş yeni bir aygıt içi küçük lisan modeli olan Mu duyuruldu. Şirketin maksadı, Ayarlar uygulamasında bir kullanıcının doğal lisan sorgularını anlayabilen ve bunu sıkıntısız bir kullanıcı tecrübesi için mevcut arama kutusuna entegre edebilen yapay zeka dayanaklı bir aracı oluşturmaktı. Bu nedenle Microsoft, yakın vakitte Copilot+ PC‘lerle Dev Channel’da Windows Insider’lara sunulan Ayarlar uygulamasındaki yeni aracı özelliğini desteklemek için yeni Mu modelini kullanıyor.
Phi-Silica üzere, Mu da mahallî olarak çalışırken saniyede 100’den fazla belirteç sunarak NPU’larda verimli bir halde çalışmak üzere tasarlanmış durumda. Microsoft, Mu lisan modelini nasıl tasarladıklarını ve eğittiklerini açıklamayı da ihmal etmedi. Mu lisan modelinin genel görünümü şu biçimde:
- Mu, 330M kodlayıcı-kod çözücü lisan modelidir.
- Kodlayıcı-kod çözücü yaklaşımı, benzeri boyuttaki sırf kod çözücü modeline kıyasla yaklaşık %47 daha düşük birinci belirteç gecikmesi ve 4,7 kat daha yüksek kod çözme suratı elde etti.
- Mu, toplam parametre sayısını azaltmak için belli bileşenlerde yük paylaşımını kullanır.
- Microsoft, Azure Machine Learning’te NVIDIA A100 GPU’larını kullanarak Mu’yu eğitti.
- Mu, boyutunun onda biri olmasına karşın, benzeri biçimde ince ayarlanmış bir Phi-3.5-mini ile performans açısından neredeyse karşılaştırılabilir.
Model, çok sözcüklü sorgular için daha uygun. Bu nedenle, kısa yahut kısmi sözcük girişleri için Ayarlar uygulaması, arama kutusunda sözcüksel ve anlamsal arama sonuçlarını göstermeye devam edecek. İlgilenen kullanıcılar, Windows Ayarları uygulamasında bu yeni yapay zeka dayanaklı aracı denemek için Windows 11 Build 26120.3964 (KB5058496) yahut üzeri sürümü indirebilirler.
