Nemrég csalódott lettem, miközben Claude-dal dolgoztam, és ez egy érdekes eszmecserébe vezetett a platformmal, ami arra késztetett, hogy megvizsgáljam saját elvárásaimat, tetteimet és viselkedésemet… és ez felnyitotta a szemet. A rövid változat szerint az AI-ra továbbra is asszisztensként szeretnék gondolni, mint egy laborpartnerre. A valóságban úgy kell tekinteni rá, mint egy robotra a laborban – amely lenyűgöző dolgokra képes, megfelelő irányt adva, de csak szilárd keretek között. Még mindig nagyon sok mindenre nem képes, és mi gyakorlóként néha elfelejtjük ezt, és abból indulunk ki, hogy mire vágyunk, hogy egy platform képes legyen, ahelyett, hogy a korlátok valóságába alapoznánk.
És bár az AI korlátai ma valóban lenyűgözőek, elhalványulnak ahhoz képest, hogy mire képesek az emberek. Néha figyelmen kívül hagyjuk ezt a különbséget, és emberi tulajdonságokat tulajdonítunk az AI-rendszereknek? Fogadok, hogy mindannyiunknak megvan az egyik vagy a másik pontja. Pontosságot feltételeztünk és irányt vettünk. Magától értetődőnek tartottuk, hogy „ez nyilvánvaló”, és azt vártuk, hogy a válasz „beleértve a nyilvánvalót”. És idegesek vagyunk, ha ez kudarcot vall.
A mesterséges intelligencia néha emberinek érzi magát abban, ahogyan kommunikál, de működésében nem viselkedik emberként. A látszat és a valóság közötti szakadék valójában az, ahol a legtöbb zűrzavar, frusztráció és a nagy nyelvi modellekkel való visszaélés kezdődik. Az emberi számítógépes interakcióval kapcsolatos kutatások azt mutatják, hogy az emberek természetüknél fogva antropomorfizálják azokat a rendszereket, amelyek beszélnek, szociálisan reagálnak vagy tükrözik az emberi kommunikációs mintákat.
Ez nem az intelligencia, a kíváncsiság vagy a felhasználók szándékossága. Ez a mentális modellek kudarca. Az emberek, beleértve a magasan képzett szakembereket is, gyakran olyan elvárásokkal közelítik meg a mesterséges intelligencia rendszereket, amelyeket a rendszerek megjelenése formál, nem pedig a valódi működésük. Az eredmény a csalódás folyamatos áradata, amelyet tévesen a kiforratlan technológiának, a gyenge felszólításoknak vagy a megbízhatatlan modelleknek tulajdonítanak.
A probléma nem ezek közül való. A probléma az elvárás.
Hogy megértsük, miért, külön-külön kell megvizsgálnunk két különböző csoportot. Az egyik oldalon a fogyasztók, a másikon a gyakorló szakemberek. Különböző módon lépnek kapcsolatba az MI-vel. Másképp kudarcot vallanak. De mindkét csoport ugyanarra a mögöttes eltérésre reagál az AI érzései és tényleges viselkedése között.
A fogyasztói oldal, ahol az észlelés dominál
A legtöbb fogyasztó társalgási felületeken keresztül találkozik az AI-val. A chatbotok, asszisztensek és válaszmotorok teljes mondatokban beszélnek, udvarias nyelvezetet használnak, elismerik az árnyalatokat, és látszólagos empátiával válaszolnak. Ez nem véletlen. A természetes nyelvtudás a modern LLM-ek legfőbb erőssége, és ez az a funkció, amelyet a felhasználók először tapasztalnak meg.
Amikor valami úgy kommunikál, ahogyan egy személy, az emberek természetesen emberi tulajdonságokkal ruházzák fel. Megértés. Szándék. Memória. Ítélet. Ez a tendencia jól dokumentált az emberi számítógépes interakcióval és antropomorfizmussal foglalkozó évtizedes kutatásokban. Ez nem hiba. Az emberek így értelmezik a világot.
A fogyasztó szemszögéből ez a mentális rövidítés általában ésszerűnek tűnik. Nem próbálnak rendszert működtetni. Segítséget, információt vagy megnyugtatást próbálnak szerezni. Ha a rendszer jól működik, megnő a bizalom. Ha nem sikerül, a reakció érzelmi. Zavar. Csalódottság. Az érzés, hogy félrevezették.
Ez a dinamika számít, különösen akkor, amikor az AI beépül a mindennapi termékekbe. De nem itt fordulnak elő a legkövetkezményesebb hibák.
Ezek a gyakorló oldalon jelennek meg.
A gyakorló viselkedésének egyértelmű meghatározása
A gyakorló szakembert nem a munkakör vagy a műszaki mélység határozza meg. A gyakorlót az elszámoltathatóság határozza meg.
Ha időnként kíváncsiságból vagy kényelemből használja az MI-t, Ön fogyasztó. Ha munkája részeként ismételten használja a mesterséges intelligenciát, integrálja a kimenetét a munkafolyamatokba, és felelősséggel tartozik a későbbi eredményekért, akkor Ön gyakorló.
Ide tartoznak a SEO menedzserek, a marketingvezetők, a tartalomstratégiák, az elemzők, a termékmenedzserek és a vezetők, akik az AI által támogatott munka alapján hoznak döntéseket. A gyakorlók nem kísérleteznek. Operacionalizálják.
És itt válik strukturálissá a mentális modellprobléma.
A gyakorlók általában nem kezelik az AI-t érzelmi értelemben emberként. Nem hiszik el, hogy vannak érzései vagy tudata. Ehelyett úgy kezelik, mint egy munkafolyamat értelmében vett kollégát. Gyakran olyan, mint egy tehetséges junior kolléga.
Ez a különbségtétel finom, de kritikus.
A gyakorlók hajlamosak azt feltételezni, hogy egy kellően fejlett rendszer kikövetkezteti a szándékot, fenntartja a folytonosságot, és ítélőképességet gyakorol, hacsak nincs kifejezetten másképp mondva. Ez a feltételezés nem irracionális. Ez tükrözi az emberi csapatok működését. A tapasztalt szakemberek rendszeresen támaszkodnak a közös kontextusra, a hallgatólagos prioritásokra és a szakmai intuícióra.
De az LLM-ek nem így működnek.
Ami antropomorfizmusnak tűnik a fogyasztói magatartásban, az rossz helyre való delegálásként jelenik meg a gyakorló munkafolyamatokban. A felelősség csendben sodródik az emberről a rendszerre, nem érzelmileg, hanem működésileg.
Ezt a sodródást nagyon specifikus, megismételhető mintákban láthatja.
A gyakorló szakemberek gyakran delegálnak feladatokat anélkül, hogy teljes mértékben meghatároznák a célokat, a megszorításokat vagy a sikerkritériumokat, feltételezve, hogy a rendszer kikövetkezteti, hogy mi számít. Úgy viselkednek, mintha a modell stabil memóriát és prioritástudatot tartana fenn, még akkor is, ha intellektuálisan tudják, hogy nem. Azt várják, hogy a rendszer önállóan kezdeményezzen, jelezzen problémákat vagy oldja meg a kétértelműségeket. Túlsúlyozzák a folyékonyságot és az eredményekbe vetett bizalmat, miközben alulsúlyozzák az ellenőrzést. És idővel az eredményeket a rendszer által hozott döntésekként kezdik leírni, nem pedig az általuk jóváhagyott döntésekként.
Ezek közül egyik sem gondatlan. Ez a munkavégzési szokások természetes átvitele az emberi együttműködésből a rendszer interakcióba.
A probléma az, hogy a rendszer nem rendelkezik ítélettel.
Miért nem ez a szerszámprobléma?
Ha a mesterséges intelligencia alulteljesít professzionális körülmények között, az ösztön a modellt, a felszólításokat vagy a technológia érettségét okolhatja. Ez az ösztön érthető, de a lényeget figyelmen kívül hagyja.
Az LLM-ek pontosan úgy viselkednek, ahogyan arra tervezték őket. Válaszokat generálnak az adatok mintái alapján, korlátok között, saját célok, értékek vagy szándékok nélkül.
Nem tudják, mi számít, hacsak el nem mondod nekik. Nem ők döntik el, hogyan néz ki a siker. Nem értékelik a kompromisszumokat. Nem rendelkeznek az eredményekkel.
Amikor a szakemberek olyan gondolkodási feladatokat osztanak ki, amelyek még mindig az embereké, a kudarc nem meglepő. Ez elkerülhetetlen.
Itt válik hasznossá az Ironmanre és Supermanre való gondolkodás. Nem popkulturális triviaként, hanem mentális modellkorrekcióként.
Ironman, Superman és rosszul elhelyezett autonómia
Superman önállóan működik. Érzékeli a helyzetet, eldönti, mi számít, és saját megítélése szerint cselekszik. Ott áll melletted, és megmenti a napot.
Sok gyakorló implicit módon várja el az LLM-ektől, hogy a munkafolyamatokon belül viselkedjenek.
Az Ironman másképp működik. A ruha erősíti az erőt, a sebességet, az érzékelést és a kitartást, de pilóta nélkül semmit sem csinál. Megszorítások között hajtja végre. Feltárja a lehetőségeket. Bővíti a képességet. Nem választ célokat vagy értékeket.
Az LLM-ek azok Ironman öltönyök.
Felerősítik bármilyen szándékot, struktúrát és ítéletet, amit hozol nekik. Nem helyettesítik a pilótát.
Amint tisztán látja ezt a különbséget, sok frusztráció elillan. A rendszer megszűnik megbízhatatlannak érezni magát, és kiszámíthatóan kezd viselkedni, mert az elvárások a valósághoz igazodtak.
Miért fontos ez a SEO és a marketingvezetők számára?
A SEO és marketing vezetők már komplex rendszereken belül működnek. Az Ön által nem szabályozott algoritmusok, platformok, mérési keretrendszerek és korlátozások a napi munka részét képezik. Az LLM-ek egy újabb réteget adnak ehhez a veremhez. Nem pótolják.
A SEO menedzserek számára ez azt jelenti, hogy a mesterséges intelligencia felgyorsíthatja a kutatást, bővítheti a tartalmat, felületi mintákat és segítséget nyújthat az elemzéshez, de nem tudja eldönteni, hogy néz ki a tekintély, hogyan kell kompromisszumot kötni, vagy mit jelent a siker a vállalkozás számára. Ezek továbbra is emberi felelősségek.
A marketingvezetők számára ez azt jelenti, hogy a mesterséges intelligencia elfogadása nem elsősorban az eszközökkel kapcsolatos döntés. Ez egy felelősség elhelyezési döntés. Azok a csapatok, amelyek döntéshozóként kezelik az LLM-eket, kockázatot jelentenek. Azok a csapatok, amelyek erősítőrétegként kezelik őket, biztonságosabban és hatékonyabban skáláznak.
A különbség nem a kifinomultság. Ez tulajdonjog.
Az igazi helyesbítés
Az AI használatával kapcsolatos legtöbb tanács a jobb utasításokra összpontosít. A felszólítás számít, de az alsóbbrendű. Az igazi korrekció a gondolkodás tulajdonjogának visszaszerzése.
Az embereknek rendelkezniük kell céljaival, korlátaival, prioritásaival, értékelésével és ítéletével. A rendszerek képesek kezelni a bővítést, a szintézist, a sebességet, a mintaérzékelést és a rajzolást.
Ha ez a határ világos, az LLM-ek rendkívül hatékonyak lesznek. Ha összemosódik, frusztráció következik.
A csendes előny
Itt van az a rész, amit ritkán mondanak ki hangosan.
Azok a gyakorlók, akik belsővé teszik ezt a mentális modellt, folyamatosan jobb eredményeket érnek el ugyanazokkal az eszközökkel, amelyeket mindenki más használ. Nem azért, mert okosabbak vagy technikásabbak, hanem azért, mert felhagynak azzal, hogy a rendszert olyannak kérdezzék, ami nem az.
Ők pilóták a ruhát, és ez az előnyük.
Az AI nem veszi át az irányítást a munkád felett. Téged nem cserélnek le. Az változik, hogy hol él a felelősség.
Kezelje az AI-t emberként, és csalódni fog. Kezelje úgy, mint egy rendszert, és korlátozott lesz. Kezelje úgy, mint egy Ironman-öltönyt, és TE erősödik.
A jövő nem Supermané. Azoké az embereké, akik tudják, hogyan kell az öltönyt repülni.
Ez a bejegyzés eredetileg a Duane Forrester Decodes oldalon jelent meg.
