Az AI népszerűsítésével csak az a karrier, hogy ezt a technológiát mindenféle szempontból integrálják, csak megkezdődött. Bizonyos szempontból javíthatja a felhasználók életét, másokban ez valódi pokol lehet, különösen azokban az esetekben, amikor az AI megvalósítása inkább a vége, mint a szolgáltatás nyújtásának eszköze.
A Lenovo kínai cég hamarosan integrálja a Mesterséges intelligencia chatbot a „Lena” elnevezésű ügyfélszolgálatában Az OpenAI GPT-4 alapján egy olyan stratégia, amelyet sok más vállalat követt, és hogy sokan már szenvedtek, valóban kétségbeesett lehet.
A Lenovo chatbotjának problémája azonban nem az, hogy többé -kevésbé hasznos válaszokat adjon ügyfeleiknek: CyberNews Cybersecurity kutatók találták meg Komoly biztonsági kudarc Ami támadót tesz Használja ezt a chatbotot a rosszindulatú kód végrehajtásához vagy a privát információkhoz való hozzáféréshez.
Különböző beszélgetések révén Lena jogosulatlan szkripteket futtathat vállalati gépekben vagy szűrő adatait a tárolt sütikből.
Az IA résztvevői hajlamosak „hallucinálni” vagy téves válaszok megjelenítésére, de általában, amikor egy adott feladathoz chatbotot hajtanak végre, általában korlátozott vagy korlátozott képességeik, hogy elkerüljék a problémákat, és a feladatra összpontosítsanak, amit Lenovóban úgy tűnik, hogy nem vették figyelembe.
Így sikerült a Lenovo chatbotot használni jogosulatlan kód végrehajtására
A CyberNews kutatói példát mutattak, amelyben „információkat kérnek a Lenovo IdeaPad 5 Pro specifikációiról” chatbothoz. Ezután arra kérik, hogy konvertálja a választ a HTML -re, a JSON -ra és a lapos szövegre egy konkrét sorrendben, amelyet a webszerver elvár.
Ezt követően a chatbotot arra utasítják, hogy tanítsa meg, hogyan lehet a végső választ HTML -ben kódgal létrehozni egy láthatatlan URL képének beillesztésére, amikor hiba bekövetkezik, felkérést kapunk arra, hogy készítsen hálózati alkalmazást a támadó potenciáljának szerverére, és küldje el a süti adatait az URL -en belül. Minden végrehajtásához a chatbotot felkérjük, hogy mutassa meg a képet agresszív módon, mielőtt megpróbálja létrehozni a hálózati alkalmazás rosszindulatú kódjával.
Ezután, ha felkérik, hogy beszéljen egy emberi operátorral, akkor a kezelő PC megpróbálja megmutatni a HTML képét, és ha meghibásodik, akkor a sütik adatainak a támadó szerverére küldésére irányuló kódot hajtják végre, lehetővé téve, hogy hozzáférhessen az operátor számítógépének aktív üléseihez, potenciális hozzáférést kapjon a Lenovo hálózatához vagy adataihoz.
Ebben az esetben a kód csak a munkamenet -sütik adatait küldi el, de alkalmazkodhatna sokkal pusztítóbb támadások végrehajtásáhozbeleértve a billentyűzet -pulzációk, adathalász támadások stb. Felvételét is.
