Arra tanítják az MI-t, hogy felismerje a gyermekek bántalmazását
A projekt célja olyan technológiák létrehozása, amelyek etikai szempontból elszámoltathatóak és átláthatóak.
Az Ausztrál Szövetségi Rendőrség (AFP) és a Monash Egyetem egy „etikus forrásból származó” képadatbázist akar létrehozni, amely a mesterséges intelligencia algoritmusait a gyermekek kizsákmányolásának felderítésére képezheti ki.
A projekt keretében az AILECS (AI for Law Enforcement and Community Safety – MI a jogérvényesítésért és közösségi biztonságért) laboratórium a következő hat hónapban legalább 100 ezer képet próbál összegyűjteni a közösségtől. Az AiLECS Lab – amely a mesterséges intelligencia etikai kutatását végzi a rendfenntartás területén – felhívást intéz felnőttekhez, hogy töltsék fel a „képbankot” a gyermekkorukban készült fotóikkal – számolt be az ausztrál iTnews portál.
A fotókat arra fogják használni, hogy felismerjék a gyermekek jelenlétét „biztonságos” helyzetekben, segítsenek azonosítani a „nem biztonságos” helyzeteket, és potenciálisan jelezzék a gyermekek kizsákmányolására utaló anyagokat – közölte az AFP és a Monash Egyetem. A hozzájárulók magánéletének megőrzése érdekében a képek beküldéséhez használt e-mail címeket (az egyetlen egyéb azonosító adatot, amelyet gyűjteni fognak) külön tárolják.
Az AILECS Lab társigazgatója, Campbell Wilson egyetemi docens elmondta, hogy a projekt célja olyan technológiák létrehozása, amelyek etikai szempontból elszámoltathatóak és átláthatóak.
„Ahhoz, hogy olyan mesterséges intelligenciát fejlesszünk ki, amely képes azonosítani a kizsákmányoló képeket, nagyon nagyszámú, mindennapi, ‘biztonságos’ környezetben készült gyermekfotóra van szükségünk, amelyek segítségével betaníthatjuk és értékelhetjük a mesterséges intelligencia modelljeit. De ezeknek a képeknek a beszerzése az internetről problematikus, amikor nem lehet tudni, hogy a képeken szereplő gyerekek valóban beleegyeztek-e a fotójuk feltöltésébe vagy felhasználásába” – mondta.
Wilson közölte, hogy a gépi tanulási modelleket gyakran olyan képekkel táplálják, amelyeket az internetről „kaparnak” össze, vagy amelyek felhasználásához nem adtak dokumentált hozzájárulást, amit az AFP tavaly első kézből tapasztalt. A rendőrei szervezet 2020-ban elismerte, hogy rövid időre kipróbálta a Clearview AI-t, egy vitatott arcfelismerő eszközt, amely lehetővé teszi, hogy az internetről „lekapart” képek adatbázisában keressenek.
A korlátozott kísérleti projektet az AFP által vezetett ACCCE (Australian Centre to Counter Child Exploitation – a gyermekek kizsákmányolása elleni ausztrál központ) végezte annak megállapítására, hogy használható-e a gyermekkizsákmányolással kapcsolatos nyomozások során.
Hardverek, szoftverek, tesztek, érdekességek és színes hírek az IT világából ide kattintva!
ComputerWorld.hu