A ChatGPT-ben mostantól bárki megadhat biztonságos kontaktot, akit értesíthet a rendszer, ha baj van
Próbálja javítani az OpenAI a ChatGPT mentális egészségre fókuszáló funkcióit: a felnőtt felhasználók számára nemsokára a rendszer lehetővé teszi, hogy megadjanak egy „megbízható kontaktot”, akit az MI automatikus rendszerei és az emberi moderátorok értesíthetnek, ha úgy ítélik meg, hogy a felhasználó önsértéssel kapcsolatos beszélgetéseket folytat, írja a Gizmodo.
A vállalat korábban azt közölte, hogy hetente a felhasználók körülbelül 0,07 százaléka mutatott pszichózissal vagy mániával összefüggő mentális egészségügyi vészhelyzetre utaló jeleket, 0,15 százalékuknál merült fel önsértés vagy öngyilkossági kockázat, további 0,15 százalékuk pedig az MI-hez fűződő túlzott érzelmi kötődés jeleit mutatta.
Az új funkció a ChatGPT már meglévő szülői biztonsági értesítéseire épít, ami akkor küld figyelmeztetést a szülőknek, ha a vele összekapcsolt tinédzserfiók használójánál problémát érzékel. Az OpenAI most ezt terjeszti ki a felnőttekre is, a vállalat szerint pedig a funkciót mentálhigiénés és öngyilkosság-megelőzési szakemberek, kutatók és szervezetek bevonásával fejlesztették ki.
A funkciót 18 év feletti felhasználók kapcsolhatják be a beállításokban. A rendszerben meg lehet adni egy másik felnőtt személyt megbízható kontaktként, aki e-mailben és telefonszámmal kap meghívót. A kiválasztott személy egy hétig dönthet arról, elfogadja-e a felkérést, elutasítás esetén a felhasználó új kontaktot jelölhet ki. Ha értesítés történik, azt a megbízható kontakt e-mailben, SMS-ben vagy alkalmazáson belüli üzenetben kaphatja meg. Az üzenet csak általános információt tartalmaz arról, hogy önsértés felmerült, és arra ösztönzi a kontaktot, hogy keresse meg a felhasználót, valamint útmutatást is ad a beszélgetés kezeléséhez.
Az OpenAI felhívta a figyelmet arra, hogy a rendszer nem helyettesíti a szakmai ellátást vagy a krízisvonalakat, hanem egy több rétegű biztonsági rendszer egyik eleme, ami a bajba jutott felhasználókat támogatja.
