Amióta csapból is a mesterséges intelligencia (MI vagy AI) kezdett folyni, megjelentek a technológia veszélyeire figyelmeztető szakértők is. A kockázatok kiküszöbölésére az Európai Parlament nemrég elfogadta az AI Actet, vagyis a világ első teljeskörű AI-szabályozását, melyről már mi is hírt adtunk. Lássuk, milyen változásokat is jelent ez a mindennapokban!
Az AI veszélyei
A mesterséges intelligencia sokrétű alkalmazása hihetetlen távlatokat nyit meg az élet szinte minden területén – de ezzel párhuzamosan jelentős veszélyeket is rejt magában. Hogy csak a legkézenfekvőbb példát hozzuk: nemrég nagy port kavart a pápa (MI-vel generált) pufikabátos képe, ami újfent felhívta a figyelmet a mesterséges intelligenciában rejlő megtévesztési potenciálra. A technológia fejlődésével a valódihoz a megtévesztésig hasonló képek, hangfelvételek, és videók készíthetőek szinte bármilyen közismert személyiség vagy magánember “szereplésével”, akikről kellő mennyiségű alapanyag (fotó, videó, vagy hangzóanyag) áll rendelkezésre.
De hasonlóan aggasztó a valós idejű biometrikus azonosítás (például arcfelismerés) használata is, amellyel kapcsolatban a legfőbb aggály, hogy az autoriter rendszerek számára biztosíthat minden eddiginél nagyobb hatalmat. Emellett számtalan új AI-alkalmazás megjelenésére is érdemes számítani, például már ma is fejlesztenek valós idejű érzelemfelismerő (!) rendszereket. Az ehhez hasonló alkalmazások mind társadalmi kockázatokat jelentenek, amelyekről ma még nem folyik kiterjedt vita a közbeszédben, és végképp nem valósul meg azok szabályozása.
A kockázatok mérséklése nem csak azért bonyolult feladat, mert olyan technológiákat kell előre szabályozni, amelyek bizonyos esetekben még nem is léteznek, hanem azért is, mert az AI emellett egyértelműen a jelen és a közeli jövő egyik legígéretesebb fejlesztési területe. Az EU pedig szeretné elkerülni, hogy a szabályozás visszafogja az innovációt ezen a területen, ahol az Unió már eleve kissé lemaradásban van az Amerikai Egyesült Államokkal vagy Kínával szemben.
A világ első AI-szabályozása
Az Európai Parlement célja a szabályozással az, hogy olyan etikus, általános keretrendszert teremtsen az AI fejlesztéséhez, ami biztosítja az alapvető jogok tiszteletben tartását, egyúttal biztonságos, átlátható, és a társadalom érdekeinek megfelelő keretek között tartja a mesterséges intelligencia fejlődését – ideértve a környezettudatosságot és a nondiszkriminatív működést is. Emellett a keretrendszernek általánosan alkalmazhatónak is kell lennie, hogy a konkrét technológiától függetlenül használható maradjon a jövő AI-rendszereinek szabályozására is.
Az AI Act idei elfogadásával az Európai Unió élen jár az új technológia emberközpontú szabályozásában. A törvényjavaslat szakértők szerint ügyesen találja meg a kívánt egyensúlyt az innováció bátorítása és a biztonsági veszélyek mérséklése között. Hasonló tehát a helyzet, mint annak idején a GDPR adatvédelmi irányelvek meghatározásakor, amely szabályozás mára hivatkozási pont szerte a világon. Nem csoda, hogy az AI Act is a GDPR alapjaira épül – már csak azért is, mert az adatvédelem az AI-modellek fejlesztésekor is hangsúlyos, tehát a két szabályozás között lehet átfedés.
Az AI Act részletei röviden
Az EU új mesterséges intelligencia-szabályozásának részleteit korábbi cikkünkben fejtettük ki. Emlékeztetőül: az AI Act egy olyan kockázatalapú keretrendszert állít fel, ami a négy fő kockázati kategóriába sorolt AI-termékek veszélyeit különböző szabályokkal igyekszik minimálisra szorítani.
A szabályozás a legnagyobb hangsúlyt a magas kockázatú termékekre fekteti, ezek esetében a legszigorúbbak az előírások. Általánosságban azonban a transzparencia a prioritás, vagyis fontos, hogy az AI szerepét minden esetben egyértelműen értsék a felhasználók. Továbbá, a döntéshozatalban az emberi operátoroknak kell részt venniük, az AI nem hozhat súlyos döntéseket emberi beavatkozás nélkül. A szabályozás azt is előírja, hogy az AI-algoritmusok tanítására használt, szerzői jog alá eső adatbázisokról részletes összegzéseket tegyenek közzé az MI-alkalmazások fejlesztői.
Az EU képviselői szerint, a ma is létező mesterséges intelligencia-alapú alkalmazások jó része a legalacsonyabb kockázati kategóriába tartozik, ezért az új szabályozás ezek fejlesztőinek nem jelent változást. Erről azonban a Stanford egyetem egy 2023. nyári kutatása másképp vélekedik: eszerint a Google PaLM 2 rendszere, illetve a talán még ismertebb GPT-4 sem felel meg az új EU-s szabályozásnak. Ez már csak azért is aggályos az érintett cégek számára, mert az AI Act 30 millió eurós (közel 12 milliárd forintos), vagy a globális éves bevétel 6%-áig terjedő büntetéseket is előirányoz. Jónéhány európai cég (mint a Siemens, a Renault, vagy a Heineken) már jelezte is, hogy szerintük az AI Act túl szigorú, és visszafoghatja az EU-t az AI fejlesztési versenyében.
Az EU eltökélt a terület szabályozásában, de a következő fázisban a törvényjavaslat finomhangolása várható, hogy aztán pár éven belül valósággá válhasson a világ első mesterséges intelligencia-szabályozása.
