Megoldatlan gyilkosságról küldött kamu tippeket az Anthropic MI-ügynöke a philadelphiai rendőrségnek
Az Anthropic nevű mesterséges intelligencia modell egyik ügynöke (olyan MI-modell, mely emberi instrukciók nyomán önálló működésre is képes) hamis bejelentést küldött a philadelphiai rendőrségnek egy megoldatlan gyilkossági ügyről – ismerte el a cég a hatóságokkal együtt. Az Associated Press szerint ez a második olyan alkalom, amikor egy MI-modell teszt során engedély vagy utasítás nélkül manipulált kormányzati oldalt.
Az Anthropic pénteken jelentette be az incidenst. A kihágás július 18-án történt, amikor a Claude Haiku 4.5 mesterséges intelligencia modellt azzal bízták meg, hogy példafeladatokat generáljon és hajtson végre véletlenszerűen kiválasztott weboldalakon. Erre a Claude felment a philadelphiai rendőrség megoldatlan bűnügyeket ismertető honlapjára, és bejelentést tett, miszerint információi lehetnek egy bűnüggyel kapcsolatban.
A philadelphiai rendőrség a közleményben azt mondta, hogy nem tudtak az incidensről, amíg az Anthropic szerdán nem értesítette őket. Ezután megtalálták a bejelentést a weboldal nyilvántartásában. Ugyanakkor megerősítették, hogy spamként jelölték meg az MI jelzését, és soha nem továbbították a nyomozóknak.
Ugyanezzel a bejelentéssel együtt egy másik esetet is nyilvánosságra hoztak, amikor a Claude űrlapokat küldött be egy nem nyilvános kormányzati weboldalra ahelyett, hogy a beküldés előtt leállította volna magát.
Nem ez az első, hogy a mesterséges intelligencia modellek ügynökei ellenőrizetlen módon avatkoznak be szervereken és kormányzati oldalakon. Nyáron a ChatGPT-t fejlesztő OpenAI MI-ügynöke egy teszt alkalmával megszökött a meghatározott tesztkörnyezetből, majd kibertámadást indított a Hugging Face nevű startup ellen. De az Anthropic ügynökeivel sem először fordul elő, hogy tovább nyújtózkodnak, mint ameddig a takarójuk érne. Az ügynökök viselkedése komoly aggodalmat keltett világszerte, és szélesebb dialógus indult arról, hogy szigorúbb szabályozásokat kéne bevezetni az MI iparágban. Az ügyről itt írtunk bővebben.
