Ez nem erkölcsi állítás, és nem figyelmeztetés arra, hogy elkapják. Ez egy olyan mechanizmus leírása, amelyet kutatók több csoportja különböző szemszögből dokumentált, és ha egyszer látja, hogy a darabok hogyan illeszkednek egymáshoz, a mesterséges intelligencia keresésének zavaró viselkedése már nem zavaró. A valódi terminológiában fogom végigjárni, mert az igazi terminológia az, ahol a megértés valójában él, majd minden darabot közérthető nyelven fogalmazok meg, hogy mindenki számára elérhető legyen.
Állítson be két görbét egymás mellé, mielőtt továbbmennénk, mert együtt ezek miatt ez most számít, nem pedig valamikor. A több tízezer oldalas Graphite elemzés szerint a kínálati oldalon az újonnan megjelent angol nyelvű webes cikkek több mint fele már mesterséges intelligencia által generált. Ami a keresletet illeti, a gépek hamarosan teljesítik a legtöbb kérdést: a Microsoft Jordi Ribas, aki a Search és a mesterséges intelligencia irányítását végzi, azt állította, hogy néhány éven belül az AI-ügynökök ezerszer több lekérdezést indíthatnak el, mint az összes emberi keresés együttvéve. A web megtelik géppel írt oldalakkal abban a pillanatban, amikor a gépi olvasók domináns közönségévé válnak. A cső mindkét vége egyszerre válik szintetikusvá.
Meg kell jegyezni, hogy jó eséllyel már hallott azokról a dolgokról, amelyeket a cikk végén javasolok. De lefogadom, hogy nem hallottad, miért, vagy hogy hogyan működnek azok a rendszerek, amelyek az általam előre jelzett változáshoz vezetnek. TL;DR – az emberek nyernek.
Most pedig kezdjük azzal a résszel, amely a legjobban meglepett.
A rendszereknek van egy hüvelykujja a géppel írt szöveghez
A géppel írt szöveg kimutatható szerkezeti aláírást hordoz, a generációs ujjlenyomatés a detektálási kutatás ezt az aláírást inkább valószínűséginek, mint biztosnak tekinti, inkább erős jelzésnek, mint bélyegnek. Finom. Nem az számít, hogy létezik az ujjlenyomat, amit egy ideje feltételeztünk, hanem az, hogy a visszakereső rendszerek mit csinálnak vele, és a válasz az ellenkezője annak, amit a legtöbben várnak.
Egyre több a szakértői lektorált munka a kutatók által nevezett dolgokkal kapcsolatban forrás elfogultságelnevezett láthatatlan relevancia-elfogultság egy befolyásos lapban. Egyszerűen fogalmazva: a visszakereső rendszerek, azok az összetevők, amelyek eldöntik, hogy mely oldalakat kell behúzni a válasz elkészítéséhez, mérhetően preferálják a gépi szöveget. Először nyúlnak hozzá, és előrébb helyezik, még akkor is, ha egy ember által írt oldal ugyanolyan jól válaszol a kérdésre. A hatást megnevező SIGIR-tanulmány szerint a mesterséges intelligencia által generált elemeket az emberiek fölé rangsorolták a visszakeresési modellek, amelyek nem indokolták az előléptetést, meghosszabbítva ezzel az egyszerű szöveges keresésben ugyanezen elfogultság korábbi megállapítását. A vezető magyarázat az, hogy a géppel írt szöveg általában simább és statisztikailag jobban kiszámítható szóról szóra, ezt a tulajdonságot az úgynevezett zavarodottság méri, ami nincs összefüggésben a nevet viselő válaszmotorral, és a visszakereső modellek úgy tűnik, hogy ebben a simaságban könnyebben megbíznak. Az okról még mindig vita folyik. A hatás megismétlődik. Jelenleg az ujjlenyomat nem jelent felelősséget. Ez előny.
A gyakorlatban ez így néz ki. Két oldal egyformán jól válaszol ugyanarra a kérdésre, az egyiket egy személy írta, a másikat egy modell készítette. Mindkettőt kínálva a visszakereső rendszer nem azért nyúl a generálthoz, mert az pontosabb, hanem azért, mert sima, egyenletesen kiszámítható megfogalmazása megbízhatóbb egy olyan rendszer számára, amelyet hatalmas mennyiségű, pontosan ilyen szövegre tanítottak. Az emberi oldal sem volt rosszabb. Egyszerűen nem úgy hangzott, mint amit a gép megtanult, hogy jó választ várjon, és ez az elvárás most egy rangsorbeli előny, amiért nem tettél semmit, és az emberi versenytársad nem vesztett semmit.
LLM adatok a döntésekhez
Egy kis szintetikus a medencében sok lesz a válaszokban
Most rétegezze az időt erre a preferenciára. Egy 2026-os webkonferencia-előadás modellezte, mi történik, amikor a géppel írt tartalom folyamatosan felhalmozódik a készletben, amelyből a válaszmotorok merítenek, és nevet adott a hibamódnak: visszakeresési összeomlás. Ellenőrzött kísérletüket a maga fogalmai szerint érdemes követni. Valódi keresési eredményekkel kezdték, majd körről körre hozzáadták a géppel írt, SEO-optimalizált oldalakat, amíg a szintetikus tartalom a rendelkezésre álló készlet kétharmadát tette ki.
Itt van a szám, ami számít. A medence azon kétharmados szennyezettsége esetén a válaszokba ténylegesen visszakerültnek több mint 80%-a szintetikus volt. Mondja el világosan: a gyűjteményben lévő géppel írt oldalak szerény többsége a kész válaszok túlnyomó többségét a géppel írt forrásokból hozta létre, mivel ezek az oldalak a rangsorolási jelek kibuktatására készültek, és így aránytalanul választották ki őket arányukhoz képest. Az első szakasz előfeszítése az erősítő. Egy kis szintetikus a medencében sok szintetikussá válik a válaszokban.
Képzelje el, hogy egyetlen kérdésnél mondja meg, mennyi ideig tart a probiotikumok működése. Kezdetben a tíz forrás, amelyhez a válaszmotor elérhet, lehet egy klinikus magyarázója, egy egyetemi egészségügyi oldal, egy kiegészítés-készítő, egy hosszú fórumszál és néhány jól ismert egészségügyi kiadó, az eredet és a nézőpontok valódi terjedése. Húsz körrel később a szintetikus felhalmozás, ebből a tíz résből nyolc közel azonos géppel írt cikk, amelyek mindegyike ugyanazt a kis számú állítást fogalmazza meg, amelyek főként a tetején lévő logóban különböznek egymástól. A kapott válasz továbbra is rendben van. Mára szinte teljes egészében másolatok másolataiból áll össze, és a nézeteltérés és a textúra, amely korábban a forráslistában élt, egyszerűen elhallgatott.
A számlap, amelyet mindenki néz, zöld marad
Ez az a rész, amelyre figyelmet kell fordítania. Az összes szennyeződés mellett a válasz pontossága alig változott, 68-70% körüli értéket mutatott. A kutatók ezt a megtévesztően egészséges állapot, és az egyszerű nyelvű változat a teljes oka ennek a darabnak: a válaszok továbbra is jól hangzanak, így kívülről semmi sem tűnik megtörtnek, míg alatta a válaszokat tápláló források többnyire szintetikusra szűkültek, és a valódi források sokfélesége összeomlott. A rendszer jól néz ki az egy tárcsán, amelyet a legtöbben néznek, és üreges a számlapja, amelyet szinte senki sem néz.
Konkrétan itt a csapda. A tartalommal foglalkozó csapat megnyitja a mesterséges intelligencia láthatósági irányítópultját, és azt látja, hogy az idézettség állandó, esetleg növekszik. A képernyőn minden zöld. A képernyőn nem látszik, hogy a három-négy forrás, amely mellettük szerepel azokban a válaszokban, amelyek egy évvel ezelőtt még nyolc-tíz valóban különböző forrást jelentettek, ma már szinte ismétlődő helyek, amelyek ugyanazokat az állításokat ugyanabban a formában ismétlik. A csapatot továbbra is idézik, így az eszköz állapotról számol be. Az információs környezet, amelyben az idézetük található, csendesen visszhanggá szűkült. A jelenlét megmaradt, a sokszínűség összeomlott, és e két dolog közül csak az egyik volt a műszerfalon.
Ez a rés a mérési lecke, és könnyen lehet pontosan visszalépni. Ha nyomon követi, hogy egy válaszmotor milyen gyakran idézi Önt, akkor egy egészségesnek tűnő szám azt jelzi, hogy egy adott futás során felszínre kerül. Semmit sem mond arról, hogy a körülötted lévő készlet azonosságba omlik-e, és az ismétlődő felszólítások idézési gyakorisága iránymutató leolvasás arról, hogyan jelenik meg Ön, nem pedig a kereslet tiszta száma.
Miért nem tud ez egyszerűen új normálissá válni?
Tehát ha az ujjlenyomatot részesítik előnyben, és a medence homogenizálódik, miért nevezzük mérgezett kútnak, nem pedig stabil egyensúlynak? Mert a rendszer issza a saját teljesítményét, és erős bizonyítékaink vannak arról, hogy ez idővel mit tesz. A modellek összeomlásával kapcsolatos Nature-kutatás kimutatta, hogy a rekurzívan generált adatokra kiképzett modellek az egymást követő generációk során lebomlanak, ahogyan a fénymásolat fénymásolata minden egyes menetben veszít egy kis hűségéből, amíg a kép kásássá válik. A visszakereső réteg, amely egyre inkább gépi forrásokban alapozza meg válaszait, amelyeket ugyanazok a modellek hoztak létre, ennek a huroknak a lassabb fordulata. A rendszereknek túlélési oka van a törődésre, és a visszakeresés-összeomlás szerzői ezt egyenesen kijelentik, és azt javasolják a szervezeteknek, hogy a megbízható, ember által ellenőrzött tartalmat stratégiai eszközként kezeljék, és kezdjék el követni a származást és a források sokféleségét, ahelyett, hogy csak a pontosságot követnék el.
És itt van egy fontos gondolat. Jelenleg a platformok azt mondják, hogy semlegesek a tartalomkészítés módját illetően. A Google saját, mesterséges intelligencia funkcióira vonatkozó útmutatása egyértelműen kimondja, hogy az érdekli, hogy a tartalom hasznos-e, nem pedig az, hogy hogyan állították elő. Tehát három erő mutat egyszerre különböző irányba: egy dokumentált, jelen idejű torzítás, amely a géppel írt szöveget részesíti előnyben, egy kimondott platformsemlegesség, amely nem jutalmazza és nem is bünteti, és a strukturális túlélési nyomás, amely végül arra készteti ezeket a rendszereket, hogy az ember által ellenőrzött, változatos forrásokat előnyben részesítsék. Nem tudom megmondani azt a dátumot, amikor ezek az erők megoldódnak, vagy hogy melyik nyer. Elmondhatom, hogy a jelenlegi elfogultság örökre megtartott stratégiájára fogadás az egyetlen erő ellen tesz fogadást, amelytől a rendszerek saját folyamatos működése függ. És a pénzem? Az ember által létrehozott tartalom idővel értékesebbé válik.
Mit tegyünk ellene
A következőkben leírtak egyike sem általános tartalomhigiénia, és minden mozgás egy fent említett konkrét mechanizmusra utal.
Készítse elő azt, amit egy szintetikus medence nem képes reprodukálni. Az egyetlen tartalomkategória, amelyet egy homogenizáló, önreferencia-készlet szerkezetileg nem tud generálni eredeti bizonyíték: belső adatok, elsődleges kutatás, közvetlen tesztelés, közvetlen jelentés. Minden, amit egy nyelvi modell ír, abból származik, ami már létezik. A valóban új információnak kívülről kell bejutnia a rendszerbe, olyan valakinek, aki elment és megtalálta. Ez nem csak minőségi játék; ez az a pontos anyag, amely megőrzi a források sokféleségét, a kutatók szerint a rendszernek szüksége lesz. A probiotikumokra vonatkozó példában a nyolc ismétlődő oldal ugyanazokat az állításokat dolgozza fel újra; az, amelyik tényleges tesztet futtatott, vagy valós beviteli adatokat publikált, az egyetlen olyan forrás a készletben, amelyet egy másolat nem tudott volna előállítani, és éppen ez az, ami megnehezíti az áthelyezést.
Tegye olvashatóvá a származását. Ha az elkövetkezendő nyomás az ember által ellenőrzött források előnyben részesítésére irányul, a gyakorlati rövid távú lépés az, hogy félreérthetetlenül egyként azonosítható legyen: egyértelmű szerzőség, valódi személyekhez kötődő valódi hitelesítő adatok, olvasó vagy gép beszerzése, amelyet ellenőrizni tud, nyilvános előélet. Ön azon dolgozik, hogy egy olyan csomópont legyen, amelyet egy származási hely-tudatos rendszer, miután megérkezik, felismeri és megtarthatja. A kutatók stratégiai eszközként a megbízható, ember által értékelt tartalmat nevezik meg. A feladat annak biztosítása, hogy jól olvashatóan benne legyen a készletben, mielőtt az számítana.
Olvassa el saját számait az összeomlás ellen. Tartsa az idézési gyakoriságot irányadónak, semmint abszolútnak, és figyeljen kifejezetten a megtévesztően egészséges szakadékra: olyan válaszokra hivatkoznak, amelyek maguk is néhány szintetikus alapú forrásra szűkülnek? A növekvő idézetek száma egy összeomló készleten belül nem biztos, hogy az a győzelem, aminek látszik. Azok a csapatok, amelyek ezt belsővé teszik, a források sokféleségét és eredetét figyelik, nem csak a jelenlétet.
Ne optimalizálja az ujjlenyomatba való bejutást. Ez a kellemetlen, mert ugyanaz az optimalizálás, amely ma nyeri a visszakeresési preferenciát, táplálja a holnapi összeomlást. Nem azt mondom, hogy hagyd fel a szerkezetet vagy az egyértelműséget. Azt mondom, hogy ha a tartalom szerkezetileg nem különböztethető meg a géppel előállított töltőanyagtól, akkor mindent egy elfogultságra fogad, hogy a rendszernek túlélési oka van megfordítani. A fedezetnek ellenőrizhetően emberinek kell lennie, ha számít a bizonyítékok, a szerzőség és az ítélet szempontjából, amelyet egy modell nem tud előállítani.
A fogadás
Itt jön ki a háló. Az a tartalom, amely ma megnyeri a válaszmotorokat, ütközik azzal, amire ezeknek a motoroknak szükségük van ahhoz, hogy egyáltalán tovább működjenek. Azok a szakemberek, akik a nem szintetikus, eredete egyértelmű, bizonyítékokat hordozó csomópontot építik, nem hajszolják a jelenlegi elfogultságot. Arra a korrekcióra pozicionálnak, amelyet a rendszer saját túlélése megkíván. Ez egy lassabb játék, mint a negyedév visszakeresési preferenciáira optimalizálni, és erre a saját pénzemet tenném.
Ez a bejegyzés eredetileg a Duane Forrester Decodes oldalon jelent meg.
