A Microsoft bejelentette a Web IQ-t, egy olyan alapozó API-készletet, amely lehetővé teszi az AI-ügynökök számára, hogy információkat nyerjenek ki a Bing keresési indexéből.
A cég a Web IQ-t „az AI-rendszerek keresőmotorjának” nevezi. Ahol a Bing segít az embereknek a weboldalak megtalálásában, a Web IQ segít az AI-ügynököknek olyan információkat találni, amelyeket felhasználhatnak a feladat során.
Mit csinál a Web IQ
A Web IQ a Bing-indexen alapuló újjáépített lekérési veremet használ, amely újratervezi a tartalom indexelését, rangsorolását és kiválasztását. Az AI-ügynökök ismételten keresnek szűk időkorlátok mellett, több lépésben.
Az API szövegrészeket és „strukturált bizonyítékobjektumokat” ad vissza a teljes weboldalak helyett, így az AI-modellek csak az oldal hasznos részeit kapják meg. Az AI modell által feldolgozott minden token pénzbe kerül, és növeli a késleltetést, így a kevesebb jobb információval rendelkező token olcsóbb és gyorsabb válaszokat jelent.
A Microsoft így összegzi: „kevesebb token, jobb válaszok, alacsonyabb hívásonkénti költség”.
Teljesítménykövetelések
A Microsoft a GDSAT (földelési elégedettség) segítségével méri, hogy az információk frissek és megbízhatóak-e. 3000 mintalekérdezés alapján azt állítják, hogy a Web IQ pontszáma magasabb, mint a versenytársaké.
A vállalat 165 ms alatti válaszidőt jelent a P95-nél, ami közel 2,5-szer gyorsabb, mint a versenytársak, öt adatközpontban végzett tesztek alapján.
A token hatékonyságát illetően a Microsoft jelentése szerint a Web IQ ugyanazt a minőséget nyújtja, kevesebb tokennel, ahogy az eredmények mennyisége nő.
Kiadói vezérlők
A Web IQ ugyanazokat a robotok kizárási szabályait és kiadói preferenciáit követi, amelyeket a Bing már tiszteletben tart. A vállalat az IETF-fel és más iparági csoportokkal is együttműködik azon szabványok kidolgozásán, amelyek alapján a mesterséges intelligencia rendszerek hozzáférhetnek a webes tartalmakhoz.
Műszaki részletek
A Web IQ a Microsoft nyílt forráskódú beágyazási modelljét használja a releváns tartalom megtalálásához, valamint további modelleket a szövegrészek rangsorolásához és kiválasztásához.
A bejelentés szerint ezek a modellek arra lettek kiképezve, hogy miként használják őket a mesterséges intelligencia érvelésében, nem pedig az önálló benchmark pontszámokban.
A gyors keresés érdekében a rendszer kiterjeszti a DiskANN-t, a Microsoft technológiáját, amellyel nagy indexekben kereshet anélkül, hogy mindent a memóriába töltene.
Miért számít ez?
A Microsoft erre épít. A Bing Webmaster Tools februárban hozzáadta a mesterséges intelligencia hivatkozási adatait, márciusban leképezte a lekérdezéseket a hivatkozott oldalakra, és megtekintette a Citation Share előnézetét a SEO héten. Ezek az eszközök megmutatják a kiadóknak, hogy az AI-rendszerek hogyan használják fel tartalmukat, a Web IQ pedig ennek a másik oldala. Ez az, amit az AI-rendszerek használnának a tartalom előhívására.
A Web IQ-ban az információk nem teljes oldalak, hanem szakaszokként jelennek meg. Az, hogy mitől lesz jó egy oldal a hagyományos keresésben, és mitől válik hasznossá egy szakasz a földeléshez, nem feltétlenül fedi egymást, ahogyan a Microsoft saját földelő keretrendszer-bejegyzésében leírta az év elején.
Előre tekintve
A Web IQ elfogadja a szándéknyilatkozatokat, de nem jelentette be az általános elérhetőséget, az árakat vagy azt, hogy mely AI platformok fogják használni. A Microsoft nem közölte, hogy a meglévő Copilot vagy Bing Chat földelés használja-e a Web IQ-t, vagy hogy a Web IQ elkülönül-e ezektől a rendszerektől.
