HCAIM-projekt: Mesterfokon, etikusan a mesterséges intelligenciáról

Világszerte megnőtt a cégek igénye az etikus mesterséges intelligencia (MI) iránt. Egyre több vállalat jelzi, hogy szüksége lenne olyan munkatársakra, akik jobban értik az MI etikai, jogi aspektusait. A megoldás természetesen sokrétű. Egyik kezdő eleme az az európai uniós pályázat, amelynek nyertesei mesterszintű egyetemi képzést indítanak a mesterséges intelligencia emberközpontú felhasználása témakörben. A HCAIM (Human Centered Artificial Intelligence Masters) projekt nyertes, tíztagú konzorciumában vállalati szereplők, kutatóközpontok és egyetemek vesznek részt. A képzések a konzorcium négy egyetemi tagjánál – a Dublini Műszaki Egyetemen, az Utrechti HU Alkalmazott Tudományi Egyetemen, a Nápolyi Federico II Egyetemen és a Budapesti Műszaki és Gazdaságtudományi Egyetemen (BME) – folynak majd. A HCAIM projekt jelenlegi helyzetébe, a munka következő fázisaiba, várható eredményeibe Antal Péter, a projekt egyik szakmai koordinátora, a Villamosmérnöki és Informatikai Kar (VIK) Méréstechnika és Információs Rendszerek Tanszék egyetemi docense avatja be a Computerworld olvasóit.

Antal Péter: Négy egyetemen indul a képzés, de nem beszélhetünk teljesen egységes oktatási szerkezetről, tananyagról, mivel ezen a szinten is megmutatkozik az európai országok sokszínűsége. Például a konzorcium alapvetően 60 kredites, egyéves képzésre pályázott, viszont a hazai szabályozás szerint egy MSc diploma 120 kredites, kétéves képzéssel szerezhető meg. Továbbá menet közben más résztvevők is rájöttek, hogy a 60 kredit szűk lehet a témához, ezért a Dublini Műszaki Egyetem már bejelentette, hogy 90 kreditre emeli a HCAIM képzését; 30 kreditet, szükség esetén, a felkészítésre lehet felhasználni. Összességében afelé megyünk, hogy flexibilisek lesznek a kurzusok, 60, 90 vagy 120 kredittel, az igények szerint. Az egyetemek, különböző oktatási formáikhoz igazodva, rugalmasan gyúrják össze a kidolgozott tananyagokat. Utrechtben például ugyanaz az oktató foglalkozik majd az MI technológiai, matematikai hátterével, gyakorlati oldalával, de ő hívja fel a figyelmet az etikai aspektusokra is. Kérdés, hogy ilyen sokféle témát miként tud egyetlen ember összefogni, mély szakmaisággal kezelni. Mi másként közelítünk, nálunk jobban szeparált a képzés. Különválasztjuk az elméleti alapozó, a gyakorlatorientált és az etikai-jogi kérdésekkel foglalkozó órákat. Ebből fakadóan nekünk más a problémánk. Mi azzal küzdünk, vajon hogyan lesz a képzésünk elég integrált, hogy a diákok ugyanazt a problémát három szempontból vehessék szemügyre, három oldalról értelmezhessék. Emellett érdeklődéssel, szinte hitetlenkedve figyeljük az utrechti egyetemet, ahol egyszerűen nincsenek elméleti előadások a témában.

Computerworld: Ha Magyarországon 120 kredit kell egy MSc diplomához, akkor mit ad a BME-n elvégezhető, 60 kredites HCAIM képzés a diákoknak?

Antal Péter: Ha valaki elvégez 60 kreditnyi HCAIM akkreditálású tárgyat, akkor egy angol és magyar nyelvű igazolást kap a diplomájába, miszerint teljesítette a HCAIM program követelményeit. Ez nem újdonság, az ilyen típusú igazolás, bizonyítvány kiadása bevett gyakorlat a BME-n.

CW: Mikor indult a projekt? Mekkora támogatást kap hozzá a Műegyetem?

Antal Péter: A projekt 2021 tavaszán indult és két és fél évig tart. A költségvetés BME-re eső része 500 ezer euróra tervezett.

CW: Kész van már a tananyag?

Antal Péter: A tananyag már formálódik, szeptemberre készül el az első verzió. Nálunk egyébként idén februárban gyakorlatilag már elstartolt az első évfolyam. A mesterséges intelligenciához köthető mellékszakirányok hallgatói a kétéves mesterképzésbe beágyazva kapják az egyéves HCAIM tananyagot. Nekünk így van némi helyzeti előnyünk, de a konzorciumban hivatalosan 2022 szeptemberében indul a képzés.

CW: Kik a budapesti HCAIM képzés oktatói?

Antal Péter: Arra törekszünk, hogy minél gazdagabb legyen a kínálat. A Villamosmérnöki és Informatikai Kar oktatóin kívül hívunk szakértőket az iparból, illetve más karokról, olyanokat, akiknek komoly tudásuk van az MI etikai, jogi aspektusairól. A jelenleg futó kurzusunknál is ez a helyzet. Noha a címe – Valószínűségi döntéstámogató rendszerek – talán elég technikainak tűnik, de folyamatosan vannak vendégelőadók, például a BME Gazdaság- és Társadalomtudományi Karról.

CW: Honnan várják a jelentkezőket?

Antal Péter: Reményeink szerint a mérnöki és természettudományi BSc diplomával rendelkezők teszik majd ki a HCAIM képzés iránt érdeklődők zömét. Mérnökök, fizikusok, matematikusok. Ugyanúgy, ahogy a BME VIK mérnökinformatikus MSc képzésének hallgatói esetében. Nem számítunk meglepetésre. Az etikai kérdések egyébként más, például egészségügyi és élettudományi területeken már korábban is felmerültek, elég csak a BME és a Semmelweis Egyetem együttműködésében folyó egészségügyi mérnöki képzést említeni. Ezeken a területeken az etikai kérdések elemzése már megszokottabb, mint a szorosan vett mérnöki vonalon, beleértve a mesterséges intelligenciát. Eljött azonban az idő, amikor már az oktatás szintjén foglalkozni kell az MI etikai vonatkozásaival.

CW: Sok rossz példa van rá, hogy visszaélnek, emberi jogokat sértenek a mesterséges intelligencia felhasználásával, vagy éppen jogi, etikai okok miatt nem alkalmaznak MI megoldásokat?

Antal Péter: Saját, évtizedekkel ezelőtt szerzett tapasztalatomhoz nyúlnék vissza. Doktori kutatásaim során egy onkológiai döntéstámogató rendszer fejlesztésében vettem részt. Gyakorlatilag egy nem invazív diagnosztikai feladatot kellett megoldani, egy nemzetközi kutatás részeként. Az eredményeket kiértékelve rádöbbentünk, hogy a rendszer jobb teljesítményt ér el, pontosabban diagnosztizál, mint egy kezdő szakorvos, aki élethelyzetéből, csekély tapasztalatából fakadóan még viszonylag kevés esetet láthatott. Sok évvel ezelőtt készült a szóban forgó döntéstámogató rendszer, amit akkor a konzorciumon belül egyetlen partnernél sem sikerült üzembe helyezni. Ennek oka egyértelműen a jogi, etikai háttér hiánya volt. A meglévőnél hatékonyabb megoldás nem juthatott el a tömegekhez, mivel tisztázatlanok voltak a felelősségek. Nem lehetett tudni, hogy a programozót, az adatgyűjtőt, a statisztikust, netán az orvos felhasználót terheli a felelősség a helyes vagy helytelen diagnózis felállításáért. A technológia, más újdonságokkal egyetemben – az alkalmazási feltételek hiánya miatt – nem tudott megfelelően hasznosulni a társadalomban. Ez a probléma az utóbbi években csak eszkalálódott. Ami 10-20 évvel ezelőtt még kuriózumnak számított, például az, hogy egy orvosi döntéstámogató rendszer a kórházi gyakorlat része legyen, mára számos helyen természetessé vált. Általában elmondható, hogy ma már rengeteg MI megoldás van, közöttük sok olyan is, ami bizonyíthatóan ártalmas, például digitális függést alakít ki, mégis kontroll nélkül használható, vagy ami nagyon hasznos tudna lenni, mint például a személyes tanácsadó-tanító rendszerek, de mégsem sikerül kialakítani a használatuk etikus módját. A jogi, etikai kérdések tisztázása tehát kulcsfontosságú.

CW: Hány hallgatót kívánnak felvenni a HCAIM képzésekre?

Antal Péter: Utrechtben és Dublinban is az infrastrukturális tervezésnél 30 diákra számítanak évfolyamonként. Nálunk februárban a mesterséges intelligenciához köthető két mellékszakirányon 30-30 hallgató számára nyílt meg a lehetőség a HCAIM képzéshez kapcsolódó blokkok, illetve tantárgyak felvételére. Ennek a két specializációnak a diákjai könnyűszerrel tudnak elég kreditet szerezni a bizonyítványhoz. Még a képzés elején tartunk, de reményeink szerint az MI diákok többsége nyitott lesz az etikai aspektusokra, és elvégzi ezt a képzést is.

CW: Egy műszaki felsőoktatási intézmény – mint a BME – oktatási, kutatási témáinak a mesterséges intelligencia is része. Elképzelhető, hogy olyan egyetemeken is foglalkozzanak az MI etikai, jogi aspektusaival, ahol egyébként nincs szó az MI-hez kapcsolódó technológiai kérdésekről?

Antal Péter: Általánosságban a technológiák jogi, etikai aspektusai autonóm, önállóan is kutatható területet képeznek. A mesterséges intelligenciára is ez vonatkozik: jogi, etikai kérdései mindenfajta MI-alapú technikai tevékenység nélkül is kutathatók. Remek analógia a bioetika. Számos olyan kutatóhely létezik, ahol bioetikai kérdésekkel foglalkoznak, de biológiai kísérleteket egész biztosan nem végeznek. Aktuális téma a mesterséges intelligencia európai szabályrendszere. Igencsak megzavarná, késleltetné az AI Act megjelenését, értelmezését, a magyar jogrendbe való beillesztését, ha a jogi kérdések szakértőinek idejük egy részében MI megoldásokat kellene kutatniuk, fejleszteniük.

Hardverek, szoftverek, tesztek, érdekességek és színes hírek az IT világából ide kattintva!