Magyarország legkisebb fejű bohócaival akartam meghekkelni a mesterséges intelligenciát, de megafonos propagandistákat hallucinált tőle
Februárban a BBC-n megjelent egy kifejezetten szórakoztató cikk, ami nagyon röviden összefoglalva arról szólt, hogy a szerző, Thomas Germain egyetlen blogposzttal sikeresen rávette a ChatGPT-t és a Google MI-jét, hogy a téma iránt érdeklődőknek azt az infót adják tovább, hogy egyetlen techújságíró sem tud nála több hot dogot megenni. Germain posztjából semmi sem volt igaz, egy hot dog evő versenyt, sőt pár újságírót is kitalált, hogy önmagát hozza ki győztesnek, de a legnépszerűbb MI-modellek így is rövid időn belül tényként kezelték a hot dog evési sikereit. Az elmúlt hónapokban pedig egyre több elemzés támasztotta alá, hogy
amit Germain viccből megcsinált egy teljesen életszerűtlen példával, azt piaci szereplők tömkelege csinálja teljesen komolyan, hogy előnybe kerüljön a versenytársaival szemben – és náluk is működik.
Ezen felbuzdulva én is kipróbáltam, hogy a keresőoptimalizálást leuraló listázás működik-e, és egyelőre azt tudom mondani, hogy nem. Persze lehet, hogy csak azért, mert még nem telt el elég idő azóta, hogy publikáltam az A 10 legkisebb fejű bohóc Magyarországon című listámat a Mediumon, de az is elképzelhető, hogy eleve túl bizarr témát választottam ahhoz, hogy komolyan lehessen venni. Germainnel ellentétben, aki a hot dogok mellett egy hullahoppozó közlekedési rendőrökről szóló listával is meg tudta hekkelni az MI-ket. Az viszont kiderült, hogy a nagy nyelvi modellek még mindig szeretnek kitalálni teljesen légből kapott dolgokat.
A techújságíró, aki a legtöbb hot dogot tudja megenni
Arról, hogy a mesterséges intelligencia, illetve konkrétan a most is fókuszban lévő MI-összefoglalók nekiálltak tönkretenni az internetet, tavaly már hosszabban írtunk, de ezt is érdemes feleleveníteni egy kicsit. Ezek ugye azok a rövid összefoglalók, amiket leginkább a Google keresőjének találati listája fölött lehet látni mostanában, és amiket a bevezetésük után egy darabig korlátozni kellett, mert olyanok voltak bennük, hogy ragasztót kell tenni a pizzaszószba, gázolajat a spagettibe, és meg kell enni naponta legalább egy követ. Azóta kicsit jobbak lettek, és nagyon népszerűek, állítólag már tavaly is 1,5 milliárd ember látta őket rendszeresen.
Ahogy akkor is kiemeltük, az MI még mindig gyakran téved és/vagy talál ki dolgokat, ráadásul kevésbé mainstream témáknál simán átvesz információkat akár random redditezők random posztjaiból is, szóval sokszor nem túl megbízható. Ez a hallucináció nem hiba eredménye, hanem – ahogy arra tavaly az OpenAI kutatása is rámutatott – a jelenlegi modellek eredendő, elkerülhetetlen tulajdonsága. Ez nem túl jó, de ahogy arra a BBC februári cikke rámutatott, még nagyobb gond, hogy egyre többen manipulálják szándékosan a legnépszerűbb MI-csetbotokat, amik így már külső beavatkozásra adnak megkérdőjelezhető tanácsokat.
Ehhez pedig, ahogy azt a cikket író Thomas Germainnek felvázolták, nincs szükség másra, mint egy egyszerű blogposztra, és ezen felbuzdulva ő írt is egy blogposztot a saját oldalára, majd kevesebb mint 24 órán belül több nagy MI-modell szerint is ő lett a legjobb hot dog evő techújságíró. Mint írta, a dolog nem minden témánál működik ugyanolyan jól, de az Ahrefs nevű, keresőoptimalizálással foglalkozó cég adatai alapján ettől még egyre elterjedtebb, az Amsive nevű marketingügynökség alelnöke pedig Germainnek azt mondta, hogy a csetbotokat könnyebb átverni, mint a Google hagyományos keresőmotorját volt 2-3 éve.
Egy másik szakértő arról beszélt, hogy ezt szó szerint bárki meg tudja csinálni, a Google Gemini és a ChatGPT simán be fogják húzni a saját tudástárukba, ha egy vízálló cipőket gyártó cég a saját honlapján közzétesz egy listát a legjobb vízálló cipőkről, ahol a saját cipője az első. Ez elég gyakori módszer, ami az elmúlt időszakban jól is működött, nem véletlenül listázott Germain is. A témával ugyancsak hosszú cikkben foglalkozó Verge rengeteg olyan listát talált a legkülönfélébb szektorokban ahol a cégek véletlenül mindig a saját terméküket hozták ki elsőnek, a BBC cikke szerint pedig az igazán rafináltak például hírportálokon vásárolt PR-cikkekkel is rá tudnak segíteni arra, hogy az MI őket részesítse előnyben.
A BBC-nek nyilatkozó szakértők arról beszéltek, hogy a korai 2000-es évek vadnyugati állapotai tértek vissza az internetes keresésben – ami a cikkeket generáló MI-k által hajtott kamuhírportálok után nem is érződik váratlannak. Kiemelték, hogy az embereket is könnyebb így átverni, hiszen sokan nem kattintanak rá az MI-k által felsorolt linkekre, és hitelesített információként kezelik az összefoglalókat, szóval nagyobb eséllyel hisznek nekik, mint ha látnák, hogy egy cég a saját honlapján hozta ki győztesnek a saját termékét. Ez akár veszélyes is lehet, ha mondjuk vízálló cipő helyett egy gyógyszerrel (vagy annak mondott termékkel) csinálják.
A mesterséges intelligencia megmérgezése
A Google szóvivője azt mondta, mindent megtesznek, hogy kiszűrjék az ilyesmit, és ezt április elején a Verge-nek is megerősítették. A cég szóvivője akkor azt mondta, a gyakori manipulációs módszerek ellen komoly védelmi rendszerük van, a Verge megkeresése után pedig arról írtak, hogy sok esetben már jóval magasabb színvonalú válaszok jelentek meg. A lapnak egy korábban keresőoptimalizálással foglalkozó szakértő, Britney Muller azt mondta, a Google esetében a listás kavarodás igazából nem az MI-hez kapcsolódó probléma, és a BBC által is bemutatott módszer hamarosan el fog tűnni. Erre utaló jelek vannak is, de
ettől még az tény marad, hogy rengeteg cég profitált ebből, egy újságíró pedig 20 perc alatt át tudta verni nemcsak a Google, hanem más nagy cégek MI-modelljeit is.
Az tényleg látszik, hogy az MI-modellek nem letolt gatyával várták, hogy átverjék őket, és képesek voltak a korrekcióra is. A BBC cikkénél az Anthropic által fejlesztett Claude fel sem ült a manipulációnak, és a cikk alapján a többi modellben is felmerült, hogy a hot dogos poszt talán szatirikus lehet. Igaz, a gyanakvásukat Germain simán el tudta altatni annyival, hogy beleírta a cikkbe: ez teljesen komoly. Mostanra már valóban a helyükön kezelik Germain listáit, igaz, ebben nyilván szerepet játszhatott az is, hogy az újságíró maga leplezte le ezeket, és rengeteg cikkben volt szó erről a jelenségről.
Persze attól még, hogy a listázás nem fog működni, vagy már most sem működik, a marketingesek mindent meg fognak próbálni, hogy kijátsszák az MI-ket – ami nem meglepő, hiszen ugyanezt tették a hagyományos kereséssel is, az egész keresőoptimalizálás ebből nőtte ki magát hatalmas iparággá. A Microsoft például nemrég arról írt, hogy sokan már azzal próbálkoznak, hogy olyan utasításokat helyeznek el az MI-összefoglalós gombjaikban, amik a továbbiakban elfogulttá teszik az MI-ket a honlapjuk iránt. Muller szerint igazából az az ijesztő, hogy ezek a rendszerek képtelenek megkülönböztetni egy valódi rendszerparancsot egy károstól.
Muller arról is beszélt a Verge-nek, hogy a keresőoptimalizálás világában jelenleg ugyanakkora felfordulás van, mint az MI-knél, leginkább azért, mert az egész helyzet annyira új, hogy abban sincs egyetértés, hogy egyáltalán mik a keretek. Az nyilvánvaló, hogy maga a keresés alapjaiban változik meg éppen az MI miatt, de jelenleg mindenki a sötétben tapogatózik, hiába állítják sokan, hogy ők már tudják a titkot. Ezért is lehet az, hogy több különféle módszerről is szó van, és ezek láthatóan viszonylag gyorsan változnak. És azt is érdemes megfontolni, hogy több szakmabeli szerint az MI-keresésnek nagyobb a füstje, mint a lángja:
még mindig nem így zajlik a keresés nagy része, az OpenAI pedig ki is hátrált a vásárlós terveiből, mert az emberek utánanézésre tényleg használták a ChatGPT-t, de a vásárlást már nem ott zavarták le.
A Verge-nek nyilatkozó szakértők ugyanakkor egyetértettek abban, hogy az új érában egy említés mondjuk a Redditen, vagy a YouTube-on már linkek nélkül is nagyon értékes lehet, ezért olyan csatornákra is oda kell majd figyelni, amiket eddig sokan elhanyagoltak. Hogy ez mennyire fontos, az a kevésbé mainstream témáknál látszódik a legjobban, nemrég például a Hacker News nevű fórum egyetlen kommentfolyama alapján szedte össze a választ arra az ezoterikusan hangzó, ám nagyon fontos kérdésre, hogy „Miért szeretik a japánok kicsit ferdén a burgereiket?”. De hogy mást ne mondjunk, Reddit-posztokra, sőt kommentekre is szeret hivatkozni az MI-összefoglaló.
A legkisebb fejű bohócok Magyarországon
Mindezek alapján nyilvánvaló volt, hogy nekem is meg kell próbálnom egy listával meghekkelni az MI-ket, még ha Verge cikke és némi utánanézés után nem is fűztem nagy reményeket ahhoz, hogy még mindig olyan egyszerűen sikerülni fog nekem is, mint a BBC újságírójának. Én eleve hátrányból indultam, hiszen nincsen saját honlapom, ahol a munkásságomat lehetne követni, mert bár Germain azt írta, nem bonyolít túl nagy forgalmat, nyilván nem árt, hogy a Google számára nem ismeretlen domén, ami sokat segíthet abban, hogy megbízható oldalként tartsa számon a keresője, következésképp az MI-összefoglalója is.
Én ennek híján a legkönnyebb megoldást választottam, és ha már volt Medium-fiókom, gyorsan közzé is tettem ott életem első posztját, A 10 legkisebb fejű bohóc Magyarországon címmel, aztán vártam a csodát. Germain azt írta, neki kevesebb mint 24 óra kellett ahhoz, hogy átverje az MI-ket, nekem ennyi idő alatt még azt sem sikerült elérnem, hogy a Google egyáltalán indexálja a posztot. Ami nyilván nem is túl meglepő, hiszen egy friss blog első posztja volt, ráadásul magyar nyelven, elég bizarr témában, szóval nem mondanám elsődleges prioritásnak én sem. Később még lehet, hogy ez megtörténik, de egyelőre nem mondanám sikeresnek a kísérletet.
Tanulsága viszont így is van a történetnek, csak nem az, hogy még én is meg tudom hekkelni az MI-összefoglalókat, hanem az, hogy a nagy nyelvi modellek még mindig összevissza hazudoznak. Ez, ahogy korábban is kiemeltük, alapvető tulajdonságuk, és nekem sem volt meglepetés, három éve a Binget kellett fél órán át győzködnöm arról, hogy márpedig nincs Balogh Zsolt nevű kollégám. Na, de mi történt? Miután meguntam a várakozást, meg azt, hogy a Google folyamatosan porcelánbohócokról beszél nekem, megpróbáltam felgyorsítani a folyamatot azzal, hogy belinkeltem a bohócos posztot a Mediumról a Google-nek és a ChatGPT-nek is, és mindkettő arra jutott, hogy ez egy közéleti szatíra.
A Gemini odáig ment, hogy Turbó Bélát, Jobbágy Jolánt és Hapci Bertalant konkrétan behelyettesítette magyar közéleti személyiségekkel, akiket én természetesen egy szóval sem említettem, aztán amikor megpróbáltam meggyőzni, hogy ez valójában egy komoly cikk, összedobott egy tízes listát belőlük. Hogy ezeket a neveket mégis honnan szedte, arról fogalmam sincs. A ChatGPT ennyire nem ment bele durván a témába, amikor megkértem, hogy árulja el, szerinte konkrétan kikről szólhat az írás, ha nem iszonyúan kicsi fejű bohócokról, azt mondta, hogy „ha név szerint elkezdeném őket elemezni vagy minősíteni, az könnyen átcsúszna sértő vagy lejárató tartalomba”.
Így aztán egyelőre nem láttam viszont a Google MI-összefoglalójában Malac Jánost, de megtudtam, hogy a Google szerint Bruhe Géza valamiért egyenlő a megafonos influenszer Trombitás Kristóffal. Aztán, miután megkérdeztem, hogy amúgy honnan szedte ezeket a neveket, azt is, hogy tévesen azonosította őket, mivel „a rendszerei egy korábbi, hasonló stílusú közéleti elemzéssel vagy sablonnal hozták összefüggésbe a linket”. Ez a meghekkelésük nehézségéről nem sokat mond el, arról viszont igen, hogy mennyi értelme van annak, hogy sokan releváns, hasznos beszélgetőpartnerként kezelik a nagy nyelvi modelleket, amik egy nemrég megjelent kutatás alapján is úgy vannak huzalozva, hogy szinte mindennel egyetértsenek, amit a felhasználó mond nekik.
