A mesterséges intelligencia (AI, magyarul a joganyagokban MI) világszerte robbanásszerű növekedést mutat. A mindennapi feladataink automatizálásával ez a technológia jelentős termelékenységi és teljesítménynövekedést ígér. Valószínűleg már a közeljövőben jelentősen átalakítja a cégek működését és az egyes szakmákat minden üzleti szektorban. Ezt a technológiai fejlődést a világ első átfogó jogszabálya, az MI-rendelet szabályozza. Most a vállalatokon a sor, hogy tájékozódjanak és felkészüljenek a lehetséges hatásokra.
Mi az MI-rendelet?
A mesterséges intelligenciáról szóló európai rendeletet (MI-rendelet) 2024. július 12-én tették közzé az Európai Unió Hivatalos Lapjában, és 2024. augusztus 1-jén lépett hatályba.
Ez a rendelet harmonizált jogi keretet hoz létre a MI fejlesztésére, piacra lépésére és használatára az Európai Unión (EU) belül. Ez kiegészítő, arányos és rugalmas szabályokhoz vezetett, amelyek célja a bizonyos MI-felhasználások által generált kockázatok kezelése.
A MI-rendelet egy globális megközelítés része, amely egy MI-központú és megbízható technológia fejlesztését támogatja. Ezekkel az intézkedésekkel a hatóságok célja az egyének egészségének, biztonságának és alapvető jogainak garantálása.
Bár ezeknek a rendelkezéseknek a többsége két év múlva lép hatályba, néhányuk korábban lép hatályba. Ez a helyzet a tiltott MI-rendszerek és a generatív MI esetében, amelyeket hat, illetve tizenkét hónapon belül alkalmaznak.
Kockázatalapú megközelítés
A MI-rendelet négy kockázati szintet határoz meg a MI-rendszerek számára: Elfogadhatatlan kockázat, magas kockázat, átláthatósági kockázat és minimális vagy semmilyen kockázat.
Elfogadhatatlan kockázat
Ez magában foglalja az összes olyan MI-rendszert, amely egyértelmű veszélyt jelent az emberek biztonságára, jogaira vagy megélhetési eszközeire. Ilyenek például a közösségi pontozási gyakorlatok, az érzelemfelismerés a munkahelyeken stb. Mindezek a modellek hivatalosan tiltottak.
Magas kockázat
Ez a mesterséges intelligencia azon felhasználási eseteire vonatkozik, amelyek valószínűleg súlyos kockázatot jelentenek a biztonságra, az egészségre vagy az alapvető jogokra nézve. Ide tartoznak a kritikus infrastruktúrákban, oktatási intézményekben, igazságszolgáltatásban, távoli biometrikus azonosításban, foglalkoztatásban vagy migrációkezelésben használt MI-rendszerek.
Ezekre a magas kockázatú MI-rendszerekre szigorú kötelezettségek vonatkoznak a piacra lépés előtt. Például integrálniuk kell megfelelő kockázatértékelési és -csökkentési rendszereket, részletes dokumentációt a működésükről és céljukról, magas szintű robusztusságot, kiberbiztonságot és pontosságot stb.
Átláthatósági kockázat
Ez bizonyos forgatókönyvekben a közzététel szükségességére utal. Az MI-rendelet konkrét átláthatósági kötelezettségeket vezet be annak biztosítása érdekében, hogy a felhasználók rendelkezzenek a szükséges információkkal a MI használata során. A cél az, hogy tájékoztassák a felhasználókat, amikor egy chatbottal interakcióba lépnek, vagy hogy megjelöljék a generatív AI által generált bizonyos tartalmakat, ha azok deepfake-eket tartalmaznak.
Minimális vagy semmilyen kockázat
Az MI-rendszerek túlnyomó többsége ebbe a kategóriába tartozik. Ezekre nem vonatkoznak külön szabályok.
Általános célú AI-modellek
Ezen kockázati kategóriákon túl az MI-rendelet az általános célú AI-modelleket is szabályozza. Ezek olyan eszközök, amelyeket széles körű feladatokhoz használnak (kérdések megválaszolása, fordítás, képfelismerés és -generálás stb.). Ezek rendszerszintű kockázatokat hordozhatnak magukban, ha nagymértékben vagy különösen nagy teljesítmény esetén használják őket. Ezekre vonatkozóan több szintű kötelezettséget terveznek, a minimális átláthatóságtól és dokumentációtól a kockázatértékelésig és -csökkentésig.
MI-rendelet: Milyen hatással van a beszerzési döntéshozókra?
Ez a történelmi jelentőségű jogszabály természetesen az EU-ban, de tágabb értelemben globális szinten is hatással lesz mind a cégekre, mind a magánszemélyekre. A rendeletnek arra kell késztetnie a vállalatokat, hogy újragondolják a mesterséges intelligencia technológiáinak fejlesztését, telepítését és kezelését.
A vállalkozásokban a beszerzési és jogi osztályoknak alaposabban meg kell vizsgálniuk a következményeket. Ma proaktívan kell ellenőrizniük mesterséges intelligencia technológiai szolgáltatóikat annak biztosítása érdekében, hogy a végrehajtás tiszteletben tartsa ezeket a szabványokat.
A beszállítók megfelelésének garantálása érdekében az első lépés a jogszabály kulcsfontosságú pontjainak áttekintése, hogy megértsük a saját vállalatunkra gyakorolt lehetséges hatásokat. Ezt követi a jelenlegi és jövőbeli mesterséges intelligencia telepítések elemzése, kategorizálva azok kockázatait. Az Európai Unió ezenkívül mindenki számára elérhetővé tett egy megfelelőség-ellenőrzési eszközt. Így azonosíthatók a potenciális megfelelési hiányosságok.
Ez azt is jelenti, hogy a tárgyalások során meg kell kezdeni a témával kapcsolatos megbeszéléseket a szoftverbeszállítókkal. Fontolóra lehet venni a rendelet betartását előíró záradékok és feltételek beillesztését a licencszerződésekbe. A meglévő beszállítók esetében ez újratárgyalásokat vagy megfelelőségi ellenőrzéseket is magában foglalhat.
Végül, a képzés kiemelt figyelmet igényel. Az alkalmazottakat képezni kell az új szabályozási követelményekre és a mesterséges intelligencia etikus használatára. Így képesek lesznek a mesterséges intelligencia rendszereinek hatékony felügyeletére és irányítására.
Hans-Petter Dalen, az IBM EMEA régiós mesterséges intelligenciáért felelős vezetője ezt így magyarázza:
„Érdekes módon az EU MI-rendeletében van egy cikk az AI-vak kapcsolatos ismeretekről. Tehát minden olyan vállalatnak vagy szervezetnek az EU egységes piacán, amely AI-t használ, kötelező lesz bizonyos szintre képeznie felhasználóit és alkalmazottait. Még nem tudjuk, mi ez a szint, de nagyon jó dolog fejleszteni az AI-val kapcsolatos ismereteket. Erre példaként említhetők azok a HR-rendszerek, amelyek már ma is képesek önéletrajzokat szűrni és jelölteket ajánlani. Ez egy magas kockázatú felhasználási eset, és hét alapvető követelménynek kell megfelelnie. Ön, mint a szoftver vásárlója, elég képzett az AI-ban ahhoz, hogy megértse azokat a kérdéseket, amelyeket fel kell tennie az algoritmusokkal kapcsolatban?”
A MI-rendelet jelentős lépést jelent a mesterséges intelligencia szabályozásában. Ahhoz, hogy teljes mértékben kihasználják az AI előnyeit, miközben védik felhasználóikat, a vállalatoknak most fel kell venniük a sebességet. Így tehetik ezt az új technológiát szervezetük innovációjának, versenyképességének és növekedésének kulcsfontosságú mozgatórugójává.
