Microsoft Ayarlar Panelinin YZ Temsilcisi Olarak Göreve Başlayan Küçük Dil Modeli "Mu" ile Tanışın

Küçük dil modelleri (Small Language Models - SLM), genellikle büyük dil modellerinden (LLM) daha kompakt ve verimli olacak şekilde tasarlanır. Yerel donanım ya da uç birimler üzerinde çalışmaları için optimize edilirler. Microsoft, Windows 11’e kullanıcıların işletim sistemi ayarlarını bulmasına ve kişiselleştirme yapmasına yardımcı olacak YZ destekli ipuçları sunmak amacıyla yeni bir küçük dil modelini entegre ediyor.

Microsoft kısa süre önce, Windows 11 arayüzüne entegre edilmek üzere tasarlanmış yeni küçük dil modeli Mu’yu tanıttı. Mu, daha önce Copilot+ PC’lerde tanıtılan dil modeli Phi Silica ile birlikte çalışacak. Şirketin üzerinde çalıştığı Windows Ayarları'ndaki YZ temsilci özelliği, bu iki model tarafından desteklenecek.

Phi Silica gibi Mu da yalnızca sistemin nöral işlem birimi (NPU) üzerinde çalışacak ve saniyede 100'ün üzerinde token üretme hızıyla kullanıcıya akıcı bir deneyim sunmayı hedefliyor.

Microsoft, Mu’yu 330 milyon parametreli, küçük ölçekli uygulamalara yönelik verimli bir model olarak tanımlıyor. Model, transformer encoder-decoder mimarisi üzerine inşa edildi. Encoder, kullanıcı girişini sabit uzunlukta bir gizil temsile dönüştürürken; decoder bu temsilden çıktı token’larını oluşturuyor.

Mu, Phi Silica’nın “optimize edilmiş kardeşi” olarak geliştirildi. Parametre sayısını azaltmak ve verimliliği artırmak için çeşitli teknikler kullanıldı. Microsoft, modeli Azure Machine Learning platformu üzerinde, belirtilmeyen sayıda A100 GPU ile eğitti. Eğitim süreci birkaç aşamadan geçti ve Phi modelleri üzerinde yürütülen önceki çalışmalar sırasında geliştirilen yöntemlerden yararlanıldı.

Modelin ince ayarları tamamlandıktan sonra, geliştiriciler Mu’nun performansının Phi-3.5-mini ile neredeyse aynı seviyede olduğunu tespit etti. Üstelik Mu, Phi-3.5-mini’nin yalnızca onda biri büyüklüğünde. Microsoft ayrıca, Intel, AMD ve Qualcomm gibi silikon iş ortaklarıyla birlikte çalışarak Mu’nun yerel NPU destekli sistemlerde verimli çalışmasını sağladı.

Tüm bu optimizasyon çabalarının amacı neydi? Microsoft’un açıklamasına göre, Mu yakında kullanıma sunulacak YZ destekli Ayarlar uygulamasında “ajan deneyimini” güçlendirecek. Şirketin hedefi, Windows kullanıcılarına doğal dilde sorular sormalarına olanak tanıyan yeni bir “sohbet” özelliği sunmak. Kullanıcılar ne aradıklarını tam olarak bilmese bile, etkili yanıtlar alabilecekler.

Ayarlar uygulamasındaki “ajanik YZ” deneyimi, Windows’un kullanım kolaylığını artırmayı amaçlıyor. Microsoft, yüzlerce sistem ayarını işleyip düzenleyebilecek bir küçük dil modeli eğitmenin zorluğuna dikkat çekiyor ve yeni özellikle ilgili kullanıcı geri bildirimlerine açık olduğunu belirtiyor.

Haberi kaleme alan kişi son olarak kendi deneyimini de ekliyor: Sekiz yıllık Windows 10 kullanımı boyunca “Ayarlar” menüsünde herhangi bir erişilebilirlik ya da kullanım sorunu yaşamadığını belirtiyor. Ancak Microsoft, Windows’u dönüştürme konusunda kararlı görünüyor: "Microsoft, Windows’u ‘önce YZ’ yaklaşımıyla dönüştürme konusunda kararlılığını sürdürüyor."

‍

‍

‍

‍

‍

Kaynak:https://www.techspot.com/news/108432-meet-mu-small-language-model-charge-microsoft-settings.html