Bankoknál, biztosítóknál vizsgálta a mesterséges intelligenciát és a gépi tanulást az MNB

A Magyar Nemzeti Bank informatikai felügyelési témavizsgálatot folytatott le több pénzügyi intézménynél az általuk alkalmazott gépi tanulást és mesterséges intelligenciát használó informatikai megoldások IT-biztonsági ellenőrzésére. A vizsgálat 3-3 – az e megoldásokat már alkalmazó – bankra és biztosítóra terjedt ki.

A felügyelet átvilágította a gépi tanulás és mesterséges intelligencia (GT-MI) alkalmazásának szabályozottsági, ellenőrzési, valamint a kontrollrendszerek hatékonyságát, az ezzel kapcsolatos szervezeti működést, a fejlesztési és üzembeállítási feladatokat, az IT architektúrát, az üzemeltetést, a logikai- és adatbiztonságot, illetve a jogosultságok kezelését. A hazai pénzügyi intézmények ma elsősorban az ügyfélazonosítás, számlanyitás, marketing, valamint az ügyfélkapcsolat-kezelés (CRM) és kampánymenedzsment folyamataikban alkalmaznak GT-MI megoldást.

A GT-MI IT-biztonsági kérdései mellett az MNB olyan specifikus kockázatokat is áttekintett, hogy az érintett bankok, biztosítók által alkalmazott megoldás hogyan illeszkedik az intézmény stratégiájába, illetve, hogy a folyamatokkal kapcsolatos döntéseket kellő szakértelem bevonásával, specifikus kockázatelemzéssel hozták-e meg. A vizsgálat kiterjedt arra is, hogy a pénzügyi intézmények megfelelően kezelték-e az ügyfelek személyiségi jogait, a személyes, a különleges (akár biometrikus) adatokat.

Az MNB vizsgálta, hogy az intézmények gondoskodtak-e a tömeges összekapcsolt adatok védelméről, számoltak-e a modellből történő visszafejtés lehetőségére. Vizsgálati témának számított, hogy automatizált döntéshozatal esetén az intézmény alkalmazott-e minőségi kontrollt és hiba esetén felülvizsgálta-e a döntéseket. Felmérte-e a gyártói támogatás megszűnése esetén alkalmazandó eljárásokat, különös tekintettel a rendszeresen újratanítandó modelleknél.

Fontos szempont volt, hogy a vizsgált bankok, biztosítók kitértek-e a GT-MI tanítása során az „adatmérgezés” (adatbázisokban szereplő hibás modellek, információk) felismerésére, vagy a széles körben választott mintákkal történő tanításra a diszkrimináció kivédése érdekében. Az alkalmazott technológia jellemzőire vonatkozó tesztelések megtörténte mellett az MNB azt is vizsgálta, hogy az algoritmusok – különösen a folyamatos újratanítást igénylők – alkalmasak lehetnek-e egyes döntések felidézésére szükség esetén.

Az MNB témavizsgálata nem tárt fel a jelenlegi jogszabályokat sértő kockázatokat, hiányosságokat. A felügyelet ugyanakkor több olyan (az intézményeknek vizsgálati levélben elküldött) javaslatot is megfogalmazott, amely – bár nem jogszabálysértő, ám mégis kezelendő – problémákra vonatkozik. Ezek főként a kockázatelemzés, szabályozottság, tesztelések hiányából/nem teljeskörű voltából fakadtak – olvasható a jegybank közleményében.