A Microsoft bemutatta a MU -t (úgy hívják, hogy nem egy errata), egy kis nyelvi modell (SLM), amelyet a bejegyzések és a kimenetek közötti összetett kapcsolatok következtetésére optimalizáltak, garantálva a Nagy teljesítményű és az egyik hatékony működés helyileg. A MU a Windows konfigurációs alkalmazásának ügynöke mögött álló technológia, amely a konzultációkat természetes nyelvgé alakítja a rendszerfunkciókhoz való hívásokká.
Jelenleg ez a funkció elérhető Windows bennfentesek A DEV csatornán, konkrétan a PC -ken, a Co -Pilot+-nel. Ne feledje, hogy ezek a csapatok most már kar vagy x64 lehetnek. Ahogyan a Microsoft megemlíti, a MU teljesen integrálódik az NPU -ba, elérve a nagyobb válaszsebességet a 100 token / másodperc– Fejlesztési előnyei a vállalat által az optimalizálás révén megszerzett társaság részéről Phi szilícium -dioxid Az NPU számára, amely kritikus információkat szolgáltatott az alacsony komplexitási feladatok hatékonyabb modelleinek megtervezéséhez.
330 millió paraméterrel a mu a Kódoló-átjáró Kis méretű megvalósításokhoz és helyi végrehajtáshoz tervezték. A transzformátor architektúrája egy olyan kódolón keresztül dolgozza fel a bejáratot, amely látens ábrázolást jelent, majd egy dekóder generálja a kimeneti tokeneket. Ez a terv Minimalizálja a számítási és a memória túlterhelését– A hivatalos adatok szerint az NPU-ban, mint például a Qualcomm Hexagon, a MU kódoló-dodifier megközelítés elérte a az első token késéssének kb. 47% -kal alacsonyabb– Ezen felül bemutat egy A dekódolási sebesség 4,7 -szer magasabb összehasonlítva csak a dekóder hasonló modelljeivel.
A kompaktabb modell teljesítményének javítása érdekében a MU három kulcsfontosságú innovációt vezet be: Kettős laikus laikus, Posta Rotary beágyazások (kötél) és Csoportosított figyelmeztetés (GQA)– A MU edzést a GPUS A100 -ban végeztük az Azure Machine Learning segítségével, kezdve az intenzív előzetes hosszúsággal a magas színvonalú oktatási adatokban. Ezt követően desztillációt végeztünk a Microsoft PHI modellektől a pontosság növelése érdekében.
A MU precíziós értékelései tartalmazzák a finom beállítást olyan feladatokban, mint a Squad, a Codexgue és a Windows Configuration Agent. Mérete ellenére a konkrét feladatokhoz igazított modell figyelemre méltó teljesítményt mutatott. Az eszköz hatékony végrehajtása érdekében a fejlett technikák Modellek számszerűsítése Konkrétan adaptálva a PCS CO -CIlot+NPU -jához.
Ennek a modellnek az alkalmazása változatos lehet. Ha azonban a konfigurációs ügynökre összpontosítunk, akkor a Microsoft ötlete az volt, hogy olyan AI -t hozzon létre, amely megértette a természetes nyelvet, és intelligensen módosítja a konfigurációt, a felhasználó kérése szerint. Mint láthatja a vállalat által terjesztett Superior képen, a felhasználó azt mondja a konfigurációs alkalmazást, hogy a mutatója túl kicsi. Tehát a modell megérti, hogy mi szükséges és ajánlatok a méret növelésére.
Kezelni kétértelmű konzultációka konfigurációs szert integrálták a rendszer keresési mezőbe. Ez lehetővé teszi a rövid konzultációk számára a hagyományos keresési eredmények megjelenítését, míg több szó konzultációi aktiválják az ügynököt a műveletekhez kapcsolódó válaszokra.
