Rekordbírságot szabott ki a NAIH mesterséges intelligencia jogszerűtlen alkalmazásáért

2022. 04. 05., 14:11

Rekordbüntetést szabott ki a NAIH, melyet a március végén megjelent előző évi beszámolójában hozott nyilvánosságra. Amellett, hogy ez az eddigi legmagasabb adatvédelmi büntetés, egyben az első is, mely mesterséges intelligencia jogszerűtlen felhasználásából adódik.

A NAIH beszámolója szerint egy meg nem nevezett pénzintézeti szereplő (bank) mesterséges intelligenciával vezérelt szoftveres megoldást alkalmazott az ügyfelek érzelmi állapotának automatizált feldolgozására. A beszédjel-felismerő és értékelő rendszer az ügyfelek hangulati állapota alapján határozta meg, mely ügyfeleket szükséges visszahívni. A bank az alkalmazást panasz és ügyfélelvándorlás megelőzése érdekében üzemeltette. A NAIH utasította a bankot az érzelmi állapotok elemzésének abbahagyására, mivel az számos ponton sérti az Általános Adatvédelmi Rendeletet (GDPR).

A mesterséges intelligencia rendszerekkel kapcsolatos kutatások száma és a tanuláson alapuló alkalmazások üzleti felhasználása az előző évtizedben jelentősen megnövekedett.  Ez nagyrészt a technológiai környezet megváltozásának köszönhető, azonban a hatályban lévő jogi szabályozása még várat magára. A mesterséges intelligencia rendszerek képesek többek között nyelvi elemek feldolgozására is, mely alkalmassá teszi az emberi beszéd és hangelemek kiértékelésére, így az érzelmi és hangulati ingadozások viszonylag pontos meghatározására.

Az intelligens rendszerek efféle felhasználása számos kivetnivalót eredményezhet, mivel etikailag is megkérdőjelezhető felhasználásuk, rejtett előítéleteket tartalmazhat, ez pedig egyéb adatok felhasználásával diszkriminatív lehet az ügyfelekre nézve.

„Az eset számos problémát felvet; először is az ügyben érintett bank nem szerepeltette az adatvédelmi tájékoztatójában, hogy az adatkezelésnek többek közt ügyfélmegtartó szerepe is van, az ügyfelek tájékoztatás hiányában így tiltakozni sem tudtak ellene. Ezenfelül, az érdekmérlegelési tesztben nem vizsgálják az érintettek oldalát, nem részletezik a hangulati állapot elemzését és az adatvédelmi hatásvizsgálatban sem javasolnak érdemi megoldást ennek a nem elhanyagolható kockázatnak a csökkenésére” – elemzi az ügyet dr. Barta Gergő, a Deloitte Kockázatkezelési tanácsadás üzletágának szakértője.

A NAIH kötelezése felhívja a figyelmet az adatkezeléssel kapcsolatban az érintetti jogok megfelelő biztosítására, különösen, de nem kizárólagosan a megfelelő tájékoztatásra és a tiltakozáshoz való jognak a biztosítására. Az adatkezelésnek a szükségesre kell korlátozódnia, és ennek megfelelő tájékoztatást kell nyújtani az érintettek részére a kapcsolódó pontos következmények megjelölésével.

A jelen eset kapcsán érdemes megemlíteni, hogy az EU-s mesterséges intelligenciáról szóló rendelettervezet 52. cikke alapján az érzelemfelismerő rendszerek esetében a tervezet szigorú tájékoztatási kötelezettségeket állapít meg, amelyek megszegése esetén magas, tiltott gyakorlatok alkalmazása esetén, akár 30 millió eurós bírsággal kell számolni.

„Ez az ügy tökéletesen szemlélteti, hogy a mesterséges intelligenciára egy új típusú és fokozott kockázatú technológiaként kell gondolnunk, amit működési elvéből adódóan igen nehezen lehet átlátni és követni. A GDPR követelményei nem csak adminisztrációs feladatokat rónak az adatkezelőkre, a dokumentumokat nem elegendő csak formailag elkészíteni, a teendőt kipipálni. Jogos érdek alkalmazása esetén ez azt jelenti, hogy az érintetteket fenyegető adatvédelmi kockázatokat teljeskörűen fel kell tárni, és ezek kezelésére alkalmas szervezeti és technológiai garanciákat kell az adatkezelőnek életbe léptetnie. Nem magától értetődő tehát, hogy az adatkezelő jogos érdekére alapítva minden esetben megvalósítható az adatkezelés csak azért, mert erről egy teszt készül” – tette hozzá dr. Albert Lili, a Deloitte Legal Technológia és Adatvédelmi Csoportjának jogi szakértője.

Ha tetszett a cikk, kövesse az ÜZLETEMET
a Facebookon!

Még több friss hír

2024. 05. 16., 14:10
Az Európai Unió Bírósága által 2024. május 16-án meghozott döntés (C-746/22) szerint ellentétes az Unió jogával az a magyar szabály, amely nem engedi meg a külföldi adózóknak az áfa-visszatérítési eljárásokban, hogy irataikat akár a másodfokú (fellebbezési) eljárásban is beadhassák.
2024-05-22 10:30:59
Michelin-csillagos ételek menzai áron, gasztro-béke Kína és Tajvan között, latin hangulat az Őrségből, japán-magyar rántotthús rokonság, erdélyi ízek, kockásabroszos legendák, tepertő, malacfül, labneh és remek vegán fogások.
2024-05-22 09:10:00
Az első negyedévben 4 ezer milliárd forinttal, vagyis családonként átlagosan 1 millió forinttal nőtt a magyarországi háztartások vagyona. A legjobban a vagyonos vállalkozók, cégtulajdonosok járhattak, és sokat kerestek a befektetési alapokba, részvényekbe fektetők is – derül ki a Bank360.hu elemzéséből, amely szerint a lakosság készpénz- és hitelállománya is csúcsot döntött.

  BIZNISZPLUSZ PODCAST

Női pék, cukrász, kaviárszakértő is helyet kapott a rendezvény nagyszínpadán, hogy a fő téma, a „női energiák” mentén bemutassák a művészi szintre emelt szakmájukat. Nemes Richárd főszervező elárulja, hogy hogyan lehet még fenntarthatóbban működtetni egy műfajából adódóan sok hulladékkal járó gasztronómiai rendezvényt vagy milyen egyszerű ételekkel tudnak nagyot alkotni a Gourmet Fesztiválon bemutatkozó konyhák mesterei. Ha mindez nem lenne elég, kifejti, hogy a fine dining milyen vonásokkal ruházta fel a magyar vendéglátást az utóbbi pár évben és például hogyan lehet „veganizálni” megszokott fogásokat, amelyek ettől csak még jobbak lesznek! Vigyázat, étvágygerjesztő epizód!
Miközben a világ e-személyautó gyártói egyre élesedő versenyt vívnak a vásárlók kegyeiért, nem szabad elfelejteni, hogy a közlekedés károsanyag-kibocsátásának jelentős részéért a teherfuvarozás felel. Egyre több középtávú áruszállítást és utolsó mérföldes kézbesítést kiszolgáló depó elektrifikálja a járműflottáját és alakít ki hozzá megfelelő infrastruktúrát, ám nagyon nem mindegy, hogy az üzemeltetés mennyire tud hatékony és gazdaságos lenni – mutat rá ebben az epizódban Négyesi Szilárd, a Siemens Zrt. szakértője.
Újabb különleges hazai vállalkozás, az Ország Söre szavazást alapító Beerselection mutatkozik be a csatornán. A budapesti sörszaküzletbe hetente több tucatnyi újdonság érkezik, köztük akár olyan különlegességekkel, amelyekből egyszerre csak pár darab érhető el az egész országban. A sörkultúra hazai terjesztése fontos küldetés a tulajdonosoknak, hiszen akár 800-féle sörstílus létezik, miközben a legtöbb ember egyedül a lágert ismeri fel. A magyar sörrajongók által idén összeállított recept sorsáról, a kissé elhasznált „kézműves” kifejezés mögötti igazságról, illetve arról, hogy miért érdemes szaküzletben venni a sört a nagy áruházak helyett, Bárkai Péter mesél a BeerSelectiontől. Az ügyvezető persze igazságot tesz az örök, csapolt, palackozott, vagy dobozos kérdésben is...

  NÉPSZERŰ HÍREK

  Rovathírek: GUSTO

Michelin-csillagos ételek menzai áron, gasztro-béke Kína és Tajvan között, latin hangulat az Őrségből, japán-magyar rántotthús rokonság, erdélyi ízek, kockásabroszos legendák, tepertő, malacfül, labneh és remek vegán fogások.

  Rovathírek: ATOMBUSINESS