Az Atos most a nemzetközi és a magyarországi gyakorlatokra építve mutatja be, hogy az AI-megoldások bevezetésének különböző érettségi szintjein milyen biztonsági kihívásokkal találkozhatnak a vállalatok, és milyen technológiai, szervezeti és irányítási intézkedésekkel csökkenthetők ezek a kockázatok.

Az AI-biztonság érettsége öt jól elkülöníthető szinten keresztül fejlődik: az ad hoc használattól a teljes körű, üzleti kontextust is figyelembe vevő szabályozott működésig.

1. Ad Hoc szint

Az első, legkevésbé érett állapot az ad hoc AI-használat. Ilyenkor a szervezet különböző területein megjelennek mesterséges intelligenciára épülő eszközök és szolgáltatások, azonban ezek nem képezik a vállalati folyamatok szerves részét.

A jellemzően szigetszerűen működő megoldások nem kapcsolódnak a központi monitorozási, naplózási vagy jogosultságkezelési rendszerekhez, és gyakran egymással sem integráltak. A munkatársak saját kezdeményezésre, ellenőrizetlen módon kezdenek AI-eszközöket használni, létrehozva a „Shadow AI” jelenséget.

Ebben a környezetben a szervezet nem rendelkezik megfelelő rálátással az adatok áramlására, feldolgozására és az azokból kialakult eredmények felhasználására.  A legnagyobb kockázatot ebben a szakaszban nem maga a technológia, hanem a láthatatlanság jelenti.

A szervezet nem rendelkezik megfelelő identitás- és hozzáféréskezeléssel, nincs naplózás, monitorozás vagy adatvédelmi kontroll. A Shadow AI teljes körű megakadályozása gyakorlatilag lehetetlen, mert a privát eszközökön és ingyenesen megoldásokon a vállalati rendszerek könnyen megkerülhetőek.

Ezen a szinten a hatékony megközelítés olyan vállalati kultúra kialakítása, amely biztonságos és szabályozott keretek között támogatja az AI használatát. Biztonsági szempontból ez a legveszélyesebb zóna, az ezen a szinten működő szervezetek számára az elsődleges cél az AI-használat láthatóvá tétele és az ad hoc működés mielőbbi felszámolása.

“Ezen a szinten sok olyan hazai KKV van, akik aktívan próbálkoznak AI rendszerek bevezetésével, de a hatékonyságuk nagyon rossz, mert az AI nem illeszkedik a rendszereikhez. Számos cégnél intézményesül a Shadow AI, és mikor egy-egy felmérés során rákérdezünk, hogy egy adott AI eszköz mihez kezd az összegyűlt adatokkal, akkor már az adatgyűjtés tényén is meglepődnek” – mutat rá Sándor Dénes, az Atos Magyarország AI szakértője.

2. Discovery szint

A Discovery szakaszban a szervezet már aktívan feltérképezi AI-környezetét. Kialakul az AI-eszközök és szolgáltatások leltára, azonosíthatók a kapcsolódások, függőségek és adatáramlások.

A különböző AI-rendszerek bekapcsolódnak a vállalati monitorozási és telemetriai infrastruktúrába, így láthatóvá válik: milyen erőforrásokat használnak, milyen rendszereket érnek el, kik és milyen módon használják őket, milyen hozzáférésekkel rendelkeznek, milyen használati mintázatok figyelhetők meg.

Ebben a szakaszban már megkezdhető a baseline-ok kialakítása, vagyis a normál működési mintázatok rögzítése. Ezek képezik a későbbi anomáliadetektálás alapját, azaz a normális működéstől való eltérések azonosításához és megszüntetéséhez rögzítik az alapadatokat.

A biztonsági fókusz elsősorban az integrációk védelmére, az API-jogosultságok kezelésére, a háttérrendszerek hozzáférési kontrolljára, valamint az írási és módosítási jogosultságok szabályozására helyeződik. A Discovery szint legfontosabb eredménye, hogy a szervezet már nemcsak használja az AI-t, hanem érti és méri annak működését.

3. Governance szint

A Governance szinten a szervezet már rendelkezik AI-stratégiával, szabályozási keretrendszerrel és egyértelmű felelősségi körökkel. Ezen szinten megjelennek az AI-használatra vonatkozó szabályzatok, a szerepkörök és felelősségek (RACI), az auditálható folyamatok, a hozzáférési és ellenőrzési mechanizmusok, a naplózási és monitorozási követelmények.

Ebben a fázisban sok szervezet hajlamos úgy tekinteni, hogy biztonsági szempontból elérte a kívánt állapotot. A valóság azonban az, hogy az AI-specifikus fenyegetések jelentős része csak ezen a szinten válik igazán relevánssá. Ilyen fenyegetés többek között az úgynevezett prompt injection támadások, azaz rejtett utasításokkal történő munkafolyamat befolyásolás.

Utóbbi esetben például egy látszólag ártalmatlan dokumentum, PDF vagy adatforrás olyan utasításokat tartalmazhat, amelyeket a modell adat helyett végrehajtandó instrukcióként értelmez. Ennek eredményeként az AI olyan műveleteket hajthat végre, amelyek nem álltak a felhasználó eredeti szándékában.

Ezen az érettségi szinten a megfelelő védelem érdekében szükséges a promptok megerősítése (prompt hardening), az instrukciók és adatok szétválasztása, a tool-hívások korlátozása és kontrollja (tool gating), a kimenetek validálása, emberi jóváhagyási pontok (human-in-the-loop) kialakítása. Ezen a szinten a hangsúly már nem az AI használatának kontrollálásán, hanem az AI viselkedésének kontrollálásán van.

“Gyakori jelenség, és még egy nagy hazai pénzintézetnél is előfordult, hogy egy látszólag legitim dokumentumba rejtett utasítás rávette az AI ügynököt, hogy jogosultságain belül, de nem szándékolt módon adatokat kérjen le és módosításokat hajtson végre. A hasonló esetek jövőbeli előfordulását csak szigorú input szétválasztással, tool kontrollal és emberi jóváhagyással lehetett megelőzni” – hangsúlyozta e szint biztonsági kockázatai kapcsán az AI szakértő.

4. Detection szint

A Detection szintre érve a szervezet már rendelkezik elegendő historikus adattal és működési tapasztalattal ahhoz, hogy a normál működéstől való eltéréseket automatikusan felismerje.

A korábban kialakított baseline-ok segítségével lehetővé válik a rendellenes használati minták felismerése, a szokatlan erőforrás-fogyasztás azonosítása, a gyanús agent-viselkedések detektálása, a prompt injection kísérletek észlelése, a jogosultsági anomáliák monitorozása.

Az előző szinten elért képességek itt márt nem elegendők, nemcsak szabályozni kell a működést, hanem valós időben figyelni és értelmezni is kell azt. A rosszindulatú felhasználás következményei ezen a szinten már jelentős üzleti kockázatot hordozhatnak.

Adatszivárgás, reputációs károk, túlzott erőforrás-felhasználás vagy akár kritikus üzleti folyamatok sérülése is bekövetkezhet. Ezek a veszélyek az összes alsóbb szinten is jelen vannak, de a veszélyük még itt is fennáll. Ezért válik kulcsfontosságúvá a proaktív észlelés és a gyors reagálás képessége.

5. Enforcement szint

Az AI-biztonsági érettség legmagasabb szintje az Enforcement fázis, ahol a szervezet már nem csupán figyeli és elemzi a működést, hanem dinamikusan képes beavatkozni és kikényszeríteni a biztonsági szabályokat. Ebben a modellben kiemelt szerepet kap az Intent-Based Access Control (IBAC), amely túlmutat a hagyományos szerepköralapú jogosultságkezelésen, és azt vizsgálja az adott művelet az aktuális üzleti cél és feladat szempontjából valóban indokolt-e.

Ezzel  ellenőrizhető, hogy az AI valóban a kijelölt üzleti feladatot hajtja-e végre, kizárólag a szükséges adatokat használja-e fel, csak az indokolt eszközöket és jogosultságokat veszi-e igénybe, nem történik-e jogosulatlan adat-hozzáférés vagy adatszivárgás.

Az Enforcement szint célja, hogy a szervezet ne pusztán reagáljon a kockázatokra, hanem képes legyen azokat automatikusan megelőzni és megakadályozni. Ez jelenti az AI-biztonság legérettebb és legellenállóbb működési modelljét.

„Fontos hangsúlyozni, hogy az AI-biztonság nem egyetlen technológiai komponens problémája. Nem elegendő egy AI-stratégia kidolgozása vagy néhány védelmi eszköz bevezetése.

Az AI-security valójában egy több rétegen átívelő, rendszerszintű kockázati terület, amelyet csak a teljes informatikai, adatkezelési és irányítási környezettel együtt lehet hatékonyan kezelni” – teszi hozzá az AI biztonsági kérdéssel kapcsolatosan Hernádi József, az Atos Magyarország ügyvezető igazgatója.