Jöhet a szándékgazdaság, amiben a mesterséges intelligencia mozijegyet is rátukmálhat a felhasználókra

A Cambridge-i Egyetem kutatói szerint a mesterséges intelligencia felhasználható az online döntéshozatal befolyásolására, írja a The Guardian. Az úgynevezett szándékgazdaságban az MI-asszisztensek megértik, előrejelzik és manipulálják az emberi szándékokat, és továbbadják ezeket az információkat olyan vállalatoknak, amik profitálhatnak belőle.

A Leverhulme Jövő Intelligenciaközpont (LCFI) kutatói szerint a szándékgazdaság a figyelemgazdaság utódja lesz, utóbbi azt a környezetet jelenti, amiben a vállalatok maximalizálni igyekszenek azt az időt és figyelmet, amit az online felhasználók az általuk értékesített termékre fordítanak. A szándékgazdaságban a mesterséges intelligenciában jártas techcégek eladják a felhasználók adatainak széles körét, kezdve a motivációktól a szállodai preferenciákon át a politikai jelöltekről alkotott véleményekig.

„Évtizedek óta az emberek figyelme az internet fizetőeszköze” – mondta dr. Jonnie Penn, az LCFI technológiatörténésze. „Az online gazdaság hajtóereje az, hogy az emberek olyan közösségimédia-platformokra figyelnek, mint a Facebook és az Instagram.”

„Ha nem szabályozzuk, a szándékgazdaság az emberek motivációit új fizetőeszközként fogja kezelni” – tette hozzá. „A kereskedelmi előny megszerzése érdekében a következő logikus lépés az általuk egyértelműen kifejlesztett technológia felhasználása a szándékaink és vágyaink előrejelzésére, még mielőtt saját magunk felfogtuk volna, mik is azok tulajdonképpen.”

A kutatók szerint el kell kezdenünk azon gondolkodni, hogy egy ilyen piac milyen hatással lehet az emberi motivációkra, például a szabad és tisztességes választásokra, a szabad sajtóra vagy a tisztességes piaci versenyre, mielőtt a nem várt következmények áldozatává válunk.

A tanulmány szerint a nagy nyelvi modelleket (LLM) a felhasználók szándékos, viselkedési és pszichológiai adatokon alapuló előrejelzésére és irányítására fogják használni. Az LLM-ek valós időben lesznek képesek lehívni az információkat például arról, hogy valaki gondolt-e egy adott film megtekintésére aznap („Gondolt már arra, hogy ma este megnézze a Pókembert?”), vagy javaslatokat is tehet a jövőbeli szándékokkal kapcsolatban („Említette, hogy túlhajszoltnak érzi magát, lefoglaljam azt a mozijegyet, amiről beszéltünk?”). Az LLM-ek képesek lehetnek irányítani a beszélgetéseket bizonyos platformok, hirdetők, vállalkozások, sőt, politikai szervezetek igényei szerint.

A tanulmány egy olyan forgatókönyvet vázolt, amiben ezeket az eseteket dinamikusan generálják, hogy megfeleljenek olyan tényezőknek, mint például a felhasználó „személyes viselkedési mintája” vagy „pszichológiai profilja”. A kutatók szerint az LLM-ek viszonylag alacsony költséggel használhatják ki a felhasználó bioritmusát, politikai beállítottságát, szókincsét, életkorát, nemét, és így tovább, hogy maximalizálják egy adott cél elérésének valószínűségét. A fenti példában a cél egy mozijegy eladása volt. Egy ilyen környezetben az LLM-ekkel történő beszélgetéseket a techcégek hirdetők, vállalkozások vagy más harmadik felek szolgálatába állíthatják.

A tanulmány azt írja: az MI-modellek képesek lesznek módosítani a kimeneteiket a felhasználótól szerzett bejövő adatfolyamra reagálva. Ez azt jelenti, hogy hétköznapi beszélgetések során is hozzájuthatnak személyes adatokra, sőt, következtethetnek is azokra.

Egy lehetséges példaként azt is felhozzák, hogy a Meta MI-modellje, a Cicero a jövőben képes lehet hirdetők éttermeit, repülőjegyeit, szállásait értékesíteni ilyen személyre szabott módszerekkel a felhasználók viselkedése és a chatbotokban megosztott információk alapján. Bár már most is létezik az iparág, ami az online emberi viselkedés előrejelzésével foglalkozik, a tanulmány szerint az MI-modellek ezt a gyakorlatot számszerűsített, dinamikus és még inkább személyre szabott formátumban fogják kihasználni.

Penn azt mondta: ezek a fejlesztések magukban nem károsak, de megvan bennük a potenciál, hogy azok legyenek. „A kulcs a tudatosság azzal kapcsolatban, hogy mi következhet, ez biztosíthatja, hogy ne járjunk rossz úton” – mondta.