A mesterséges intelligencia nagy szakértői nyílt levélben írnak a technológia veszélyeiről

Tizenhárom mesterséges intelligenciával (MI) foglalkozó szakember nyílt levélben kérte a technológián dolgozó cégeket, hogy legyenek átláthatóbbak és támogassák a nyilvános eszmecseréket – írja a Washington Post. Az aláírók között szerepel az OpenAI, az Anthropic és a Google DeepMind több korábbi és jelenlegi dolgozója is.

Az aláírók attól tartanak, hogy az MI növelheti a társadalmi egyenlőtlenségeket, felgyorsíthatja az álhírek terjedését, és azt is elképzelhetőnek tartják, hogy az MI-rendszerek önállóvá válnak, és akár sok embert meg is ölhetnek. Bár úgy látják, hogy ezek kockázatát könnyű csökkenteni, szerintük a cégek anyagi érdeke inkább az, hogy ne legyen könnyű őket felügyelni.

Mivel az MI-ipart még nem sikerült alaposan szabályozni, a vállalatok felelőssége, hogy felügyeljék saját magukat, ezért arra kérik a vezetőket, hogy töröljék a titoktartási záradékokat, és nyújtsanak módot arra, hogy az alkalmazottak anonim módon is fel tudják hívni a figyelmet a problémákra.

Az elmúlt hetekben több magasabb beosztású alkalmazott is otthagyta például az OpenAI-t, többek között azért, mert úgy látták, hogy a vezetőség túlságosan nagy hangsúlyt fektet a profitmaximalizációra, és ezért hajlandóak beáldozni a szükséges óvintézkedéseket.

Liz Bourgeois, a cég szóvivője szerint az OpenAI egyetért abban, hogy a heves vita rendkívül fontos ebben az iparágban. A Google és az Anthropic nem reagáltak az újságírói megkeresésekre.

A levélírók szerint azért van szükség például a titoktartási záradékok eltörlésére, mert csak a kormányzati felügyelet hiányában csak az alkalmazottak tudják felelősségre vonni a cégeket. Azonban a létező, szivárogtatókat védő törvények csak azokat az eseteket fedik le, amikor valaki illegális dolgot tesz, hogy felhívja valami fontos dologra a figyelmet, de mivel az ipar nincs rendesen szabályozva, ezek nagy része nem vonatkozna az MI-vel foglalkozó szivárogtatókra.

Az aláírók között szerepel többek között Yoshua Bengio és Geoffrey Hinton, az MI „keresztapái”, valamint Stuart Russell világhírű informatikus.