Magabiztosabban vagyunk hülyék, ha mesterséges intelligenciát használunk
Egy francia–olasz kutatás szerint már önmagában az is jelentősen rontja az emberek ítélőképességét, ha van lehetőségük mesterséges intelligenciát használni egy kérdés megválaszolására, írja a TNW. A vizsgálatban azoknak az aránya, akik képesek voltak beismerni, hogy nem tudják a választ, 44 százalékról mindössze 3 százalékra esett vissza, ha MI segítségét is igénybe vehették. Ehhez képest a helyes válaszok aránya 27 százalékról 9 százalékra csökkent, a résztvevők magabiztossága viszont 30 százalékról 76 százalékra nőtt. Magabiztosabban mondjuk tehát a rossz válaszokat az MI segítségével, akkor is, ha magunktól fogalmunk sincs az adott témáról.
A kutatók szándékosan olyan kérdéseket választottak a vizsgálat során, amelyekben a mesterségesintelligencia-modellek jellemzően hibáznak. Ilyenek voltak például filmek apró vizuális részletei – mondjuk az, hogy milyen színű volt egy csapat meze a Csavard be, mint Beckham című filmben. A vizsgálathoz a Step 3.5 Flash modellt használták, amely ezekben a feladatokban rendszerint téves választ adott.
A vizsgálatban előfordult, hogy egyes résztvevők önállóan még helyesen válaszoltak volna, de miután megkérdezték az MI-t, végül rossz választ adtak.
A kutatók pénzjutalommal is próbálták ösztönözni a pontos válaszadást, ez azonban csak mérsékelt javulást eredményezett. Azok aránya, akik inkább bevallották, hogy nem tudják a választ, 3-ról 8 százalékra emelkedett, a helyes válaszok aránya pedig 9-ről 16 százalékra. Ez azonban még mindig jóval elmaradt az MI nélküli csoport eredményeitől, ahol ezek az arányok 44, illetve 27 százalékot értek el.
A jelenséget a Pennsylvaniai Egyetem kutatói korábban „kognitív megadásnak” (cognitive surrender) nevezték el. Egy idei kutatásuk szerint az emberek az esetek 80 százalékában elfogadják a mesterséges intelligencia téves válaszait, miközben magabiztosabbnak érzik magukat, mint azok, akik MI nélkül dolgoznak.
Az új kutatás szerint azonban a probléma még mélyebb. Nemcsak arról van szó, hogy az emberek megbíznak a hibás MI-válaszokban, hanem arról is, hogy már az MI puszta jelenléte is háttérbe szorítja azt a gondolkodási képességet, hogy felismerjük saját tudásunk határait.
A kutatók szerint ez különösen aggasztó a gyermekek esetében, akik úgy nőnek fel ezekkel a rendszerekkel, hogy kritikus gondolkodásuk még nem alakult ki teljesen.
