Egy új algoritmus „visszapörgeti a filmet”, és rámutat a pillanatra, amikor az autonóm eszköz rossz döntést hozott. A közlekedés mellett az egészségügyben is hasznos módszer lehet.
A nagyvárosi utcákon egyre gyakrabban feltűnő autonóm járművek technológiája hemzseg a sötét foltoktól, amelyek akkor lesznek igazán zavarba ejtőek, amikor baleset történik: a legtöbb elemzői módszer csak a statisztikai valószínűséget tudja megbecsülni, a pontos kiváltó okokat viszont nem tárja fel. A King’s College London kutatói most előálltak egy olyan új algoritmussal, amely visszamenőlegesen képes feltárni a szoftveres döntéshozatal és a fizikai valóság közötti kritikus pillanatokat.
A szakértők szerint a jelenleg alkalmazott módszerek alapvető hiányossága, hogy a hibák gyakoriságára, nem pedig a konkrét események mechanizmusára koncentrálnak.
Dr. Khen Elimelech, a kutatás vezetője rámutatott: a hagyományos modellek ugyan megmutatják, hogy mekkora eséllyel következik be a jövőben egy újabb hiba, de azt nem képesek végérvényesen kimutatni, hogy egy önvezető autó miért követte el az adott hibát, ami balesethez vezetett. „Ehhez az úgynevezett tényleges okozati összefüggést kell kihasználnunk, amely során egy algoritmus visszamenőlegesen elemzi a múltbeli hibákat” – fejtegette a kutató az egyetem közleményében.
Ez az első olyan alkalom, amikor a logikai eljárást mesterséges intelligencia által vezérelt kiber-fizikai rendszereknél alkalmazzák.
Az ilyen rendszerek különlegessége, hogy a digitális kódban születő döntések a való világban járnak közvetlen fizikai következményekkel. Az új megközelítés egy korábbi munkafolyamatra, a falszifikációra (cáfolhatóságra) épít. Ennek során a kutatók azokat a ritka és extrém körülményeket keresik, amelyek között csődöt mondhat a járművek irányítása.
A King’s fejlesztése ezeket a már azonosított baleseti forgatókönyveket elemzi tovább, hogy megtalálja a mélyebb okokat.
A technikai kihívást elsősorban a hatalmas adatmennyiség jelenti. Az önvezető autók folyamatosan szkennelik a környező forgalmat, az útburkolati jeleket és az úthasználókat, így egy ütközéshez vezető folyamat akár percekkel az incidens előtt is elindulhat. Egy korábban észlelt, látszólag lényegtelen tárgy észrevétlenül indíthatja el a döntések olyan láncolatát, amely később végzetesnek bizonyul. A lehetséges magyarázatok száma végtelen, ezért a kutatócsapat egy felelősség-vezérelt keresőalgoritmust készített.
Ez a rendszer a korábbi módszereknél lényegesen kisebb számítási kapacitással különíti el a valódi kiváltó okokat a háttérzajtól.
A kutatás eredményeit a 2026-os IEEE Nemzetközi Robotikai és Automatizálási Konferencián mutatták be, kiemelve, hogy a módszer a járműveken túl más területeken is bevethető.
A jövőben akár idősotthonokban vagy más egészségügyi intézményekben működő segítőrobotok biztonsági elemzésére is alkalmassá válhat.
Elimelech szerint a technológiai fejlődés elfogadottságához elengedhetetlen az átláthatóság. „Egy olyan világban, ahol az önvezető járművek egyre nagyobb teret kapnak az utcákon, létfontosságú megmagyarázni minden lényeges eseményt. Csak így építhetünk bizalmat az ilyen technológiák számára, és integrálhatjuk az életünkbe az ehhez hasonló kiber-fizikai rendszereket.”
A címlapkép illusztráció. Forrás: Leo_Visions / Unsplash
„A Roszatom Műszaki Akadémián képzett szakemberek már most olyan kompetenciákat sajátítottak el, amelyekre az erőművi blokkok üzembe helyezésének minden szakaszában szükség lesz.”