Nem csak előnyei vannak a mesterséges intelligenciának, új biztonsági kockázatokra is fel kell készülni

2024. 04. 10., 16:10

A legtöbb szervezet esetében a kibervédelmi stratégiáért, valamint a biztonsági intézkedések magas színvonalú megvalósításáért az információbiztonsági vezető (CISO) felel. A mesterséges intelligencia elterjedésével azonban a feladatai már kiterjednek az azzal kapcsolatos biztonsági kockázatok kezelésére is, ugyanis újszerű kitettséget jelentenek az intelligens eszközök és az MI-vel ellátott folyamatautomatizálás is.

„Már látszanak annak jelei, hogy a technológia fejlődése új kihívások elé állítja a szervezeteket, hiszen a biztonsági incidensek már második éve a legjelentősebb működési kockázatnak számítanak világszerte. Az ezekkel kapcsolatos költségek már 2022-ben sosem látott csúcsra emelkedtek, és a várakozások szerint a következő években többszörösükre ugranak majd” – emelte ki dr. Barta Gergő, a Deloitte kibervédelmi osztályának vezető MI szakértője.

Az új biztonsági kockázatok felértékelhetik majd az információbiztonsági vezetők szerepét. Az ő feladatuk, hogy a munkatársakat oktassák, illetve a vezetőket tájékoztassák a legfrissebb kockázatokról és azok lehetséges kezeléséről.

A mesterséges intelligencia egyre szélesebb elterjedése általánosságban több feladat elé állítja a biztonsági szakembereket, derül ki a Deloitte friss tanulmányából:

  • Fel kell mérniük, hogy a modellek hogyan kezelik az érzékeny adatokat, és biztosítaniuk kell, hogy azok megfeleljenek az adatvédelmi törvényeknek és előírásoknak.
  • A vezetőknek megbízható jogosultság-kezelési folyamatot kell bevezetniük annak biztosítása érdekében, hogy csak az arra jogosult személyek férjenek hozzá a rendszerekhez, modellekhez és az adatokhoz.
  • Fontos, hogy a mesterséges intelligencia-modelleket megvédjék a manipulációtól, ezért biztosítaniuk kell az egyes modellek biztonságos tárolását.
  • A szervezeteknek megfelelő naplózási képességekkel és monitoring rendszerekkel kell rendelkezniük a biztonsági incidensek észlelése és az azokra való azonnali reagálás érdekében.
  • A biztonsági vezetőknek kell irányítaniuk a rendszerekkel kapcsolatos képzést, és fel kell hívniuk az alkalmazottak és az érdekeltek figyelmét a releváns tudnivalókra.

A jövőre gondolva a szervezeteknek azonnal el kell kezdeniük olyan módszerek alkalmazását, mint a személyre vagy adott pozícióra szabott szakmai képzések, online tanfolyamok és tájékoztató workshopok, hogy ily módon is oktassák és képezzék a munkavállalókat a generatív mesterséges intelligencia bevezetésének lehetséges kockázatairól.  Emellett érdemes extra lépéseket tenni annak érdekében, hogy az ilyen képzéseket még inkább beágyazzuk a meglévő folyamatokba.

A biztonsági vezetőknek kiemelt prioritásként kell kezelniük a felhasználási irányelvek és kockázatkezelési keretrendszerek létrehozását és napi alkalmazását a harmadik féltől származó MI-megoldások hitelességének értékeléséhez. Továbbá annak tisztázása, hogy mi az elfogadható MI által generált tartalom annak felhasználása során és mi nem az, segíthet minimalizálni további kockázatokat pl. az MI etikus alkalmazásával kapcsolatban.

Ha tetszett a cikk, kövesse az ÜZLETEMET
a Facebookon!

Még több friss hír

2025-04-01 15:20:00
Mintegy 16 ezer kilométer távvezeték, 200 nagyfeszültségű kapcsolóberendezés és 50 generátoregység is alkotja a német vasúttársaság villamosenergiarendszerét. Ezt a kiterjedt rendszert korszerűsíti most a vonatok, vasúti létesítmények és ingatlanok energiaellátásáért felelős vállalat, a Deutsche Bahn Energie. Az új irányítási rendszer várhatóan 2028-ban lép üzembe.
2025-04-01 14:15:00
Végső bevezetési szakaszába lépett az Európai Unió importellenőrzési rendszere (Import Control System 2, ICS2), így 2025. április elsejétől az új vámkövetelmények kiterjednek a vasúti, közúti és tengeri, belvízi szállításra is. A figyelmetlen cégek a vámkezelés megtagadására és bírságokra is számíthatnak – hívja fel a figyelmet a Baker McKenzie nemzetközi ügyvédi iroda.

  Rovathírek: HIPA

A globális értékláncok megroppanásához és teljes átszervezéséhez vezethet a vámok újabb korszakának beköszönte a világgazdaságban, azonban a beruházásösztönzésnek ebben az új helyzetben is bőven maradt mozgástere – írja friss bejegyzésében Joó István kormánybiztos, a HIPA Nemzeti Befektetési Ügynökség vezérigazgatója.

  BIZNISZPLUSZ PODCAST

Bár a nők és férfiak közötti bérszakadék irgalmatlan lassan változó folyamatoktól függ, érkeznek új szabályok, amelyek gyorsabb változásokat idéznek majd elő. Ezek bevezetése előtt a PwC Women in Work 2025 jelentése feltárta, mekkora egyenlőtlenségek állnak fenn – még mindig –, és ezek milyen hátrányt jelentenek a nők számára a munkaerőpiacon. Reguly Márta, a PwC Magyarország HR tanácsadási csapatának vezetője felvázolta, milyen lehetőségeket – és nem mellesleg céges kötelezettségeket – von maga után a hamarosan élesedő uniós direktíva, a Pay Transparency, amely az EU-ban hivatott rendezni ezt a régóta fennálló problémát.
Megérkeztek a hazai lízingszerződések tavalyi számai, amelyek összességében ugyan növekedést mutatnak, de tanulságos megnézni a részleteket, hiszen komoly eltérések jelentek meg az egyes szegmensek között, és ennek nyomós okai vannak. Kőszegi László, a Magyar Lízingszövetség főtitkára a BizniszPlusznak kifejtette, hogy szervezetük éves jelentéséből milyen következtetéseket érdemes levonni a magyar vállalkozások helyzetéről és lehetőségeiről, illetve magának a lízingpiacnak az alakulásáról.
A vállalatok és szervezetek mesterséges intelligencia használatát 2025. február 2-a óta új uniós rendelkezés szabályozza. Hogy mely AI-alkalmazások tartoznak az elfogadhatatlan vagy „csak” a kockázatos kategóriába, a technológia jelen állapotára vonatkoztatva eldőlt, viszont változhat is annak függvényében, hogy az EU nyílt tudományos csoportja szerint mennyi idő alatt és mekkorát fejlődik. Milyen esetekben és mekkora bírságokat kockáztatnak az AI-t alkalmazó cégek, ha megszegik a rendeletet? Hogyan és meddig tudnak felkészülni a szabályos használatra? Mit tehet a „magánember” AI-val kapcsolatos jogsérelem gyanúja esetén? A kérdésekre dr. Baracsi Katalin internetjogász válaszol.

  Rovathírek: ATOMBUSINESS