A (generatív) mesterséges intelligencia forradalmának közepette az egyik legnagyobb kérdés, hogy hogyan különböztessük meg az AI-generálta “szintetikus” tartalmakat az emberek által készített eredeti tartalmaktól. 

Ahogy ezek az AI-modellek egyre okosabbak lesznek, az általuk generált szövegek, képek, videók, hangfelvételek a megszólalásig hasonlíthatnak majd a “valódi” tartalmakra – sok esetben már ma is ez a helyzet. Egy generált anyag viszont gyakorlatilag bármilyen információt tartalmazhat, amit a készítője a prompt engineering segítségével bemeneti adatként megad. A tartalom gyanútlan fogyasztója azt hiheti, hogy például egy valódi videófelvételt néz, az abban foglalt információk valósak, és a képsorok ténylegesen megtörtént eseményeket mutatnak. Könnyen belátható, hogy milyen súlyos kitettséget jelent az egész emberiségre nézve, ha már a szemünknek (és egyéb érzékszerveinknek) sem hihetünk, ezért is kulcskérdés a mesterségesintelligencia-tartalmak azonosítása.

Jön az AI-tartalmak címkézése a Meta felületein

A Meta bejelentette, hogy platformjain (vagyis a Facebook, az Instagram és a Threads felületein) meg fogja jelölni a mesterséges intelligencia által létrehozott anyagokat. Ezek felismerése önmagában is kihívás: a cég iparági együttműködés keretében finomítja azok a technikai sztenderdeket, amelyek alapján azonosíthatóak az AI-generálta tartalmak.

A Meta a saját modellje által generált képeket természetesen felismeri – sőt, a Meta AI segítségével létrehozott fotorealisztikus képeket a Meta a kezdetektől fogva ellátta az “Imagined with AI” címkével, így segítve az azonosítást. Most azonban arról van szó, hogy a más fejlesztők modelljeivel generált AI-tartalmakat is azonosítsák és megjelöljék a Facebook, az Instagram, és a Threads felületein.

Hogyan címkézi a generált tartalmakat a Meta?

A Meta AI segítségével létrehozott képekre látható vízjel kerül, így első pillantásra is világos, honnan származnak. Emellett láthatatlan vízjelek és a képfájlokhoz mellékelt metaadatok is segítik annak felismerését, hogy a képet AI generálta. A Meta tájékoztatása szerint a cég a PAI (Partnership on AI) iparági szervezet irányelvei szerint alakította ki saját AI-címkézési gyakorlatát.

Az cég által kidolgozott technológiai megoldás alkalmas rá, hogy felismerje és megjelölje a Google, az OpenAI, a Microsoft, az Adobe, a Midjourney és a Shutterstock mesterségesintelligencia-megoldásaival készült képeket, amíg ezek a cégek kialakítják saját azonosítási gyakorlatukat. 

Az automatikus azonosítás mellett a Meta egy “önbevalláson” alapuló rendszert is elindít: a realisztikus, de digitálisan szerkesztett videó- vagy hangfájlok feltöltőinek nyilatkoznia kell majd arról, hogy AI-generálta tartalmakat tesznek-e közzé. 

A cég azt is jelezte, hogy ha egy felhasználó olyan képet, videót, vagy hangfelvételt töltene fel, ami a Meta mércéje szerint alkalmas arra, hogy megvezesse a fogyasztókat, szükség szerint még jobban látható címkét is elhelyezhet ezeken a tartalmakon.

A cég azt ígéri, a változások a következő pár hónapban jelenhetnek majd meg minden, a platformok által támogatott nyelven.

A címkézés jövője

A rosszhiszemű felhasználás így sem teljesen kizárt, hiszen a láthatatlan vízjeleket jelenleg el lehet távolítani a fájlokról. A Meta dolgozik rajta, hogy ezeket nehezebben lehessen eltüntetni vagy szerkeszteni. A cég egy tavaly bejelentett megoldása például lehetővé teszi, hogy a fejlesztők a vízjelezést eleve beépítsék a képgeneráló folyamatába.

A Meta arra is felhívta a figyelmet, hogy egyelőre nem tudni, az iparág és az azt szabályozó hatóságok milyen irányba indulnak majd: az AI-generálta “szintetikus” tartalmakat, vagy az emberi kéz által létrehozott tartalmakat fogják külön jelöléssel ellátni. A Meta új címkézési megoldása csak az első lépés ezen az úton, ami a cég szerint jelenleg megfelelőnek tűnik a felületein közzétett tartalmakhoz. De azt is világossá tette, hogy tisztában van vele: a gyorsan változó technológiai környezet folyamatos figyelmet kíván, így a Meta továbbra is együtt kíván működni a többi iparági szereplővel, állami vezetőkkel, és a civil szektorral is.