Lebuktatja a hamisított videókat és fotókat a Microsoft új eszköze

A Microsoft úgy döntött, hogy beszáll az álhírek elleni küzdelembe, és egy olyan új ellenőrző eszközt adott ki, amellyel kiszúrható, ha egy fotót vagy videót mesterségesen megdolgoztak. A videók lejátszásakor az ellenőrzés valós időben, az egyes képkockák elemzésével valósul meg. A szoftver érzékeli azokat az elmosódásokat és finom árnyalatváltozásokat, amelyek a „deepfake” jellegű hamisítás során kerülnek az anyagra, de az emberi szem nem mindig tudja érzékelni.

A deepfake, vagy másnéven szintetikus média technológia képes rá, hogy mesterséges intelligencia segítségével megváltoztassa a fotókat, videókat, vagy hangfájlokat, és például a szájmozgás módosításával olyasmit adjon a célszemély szájába, amit az soha sem mondana. Ugyancsak így készülnek olyan videók, ahol egy beszélő arcát teljesen lecserélik valaki másra, amivel a politikai lejáratóhadjáratoktól magánbosszúig mindenfélét el lehet érni. A Microsoft úgy ítéli meg, hogy a deepfake felismerése és kiszűrése kulcsfontosságú például a küszöbön álló amerikai választások tisztasága szempontjából is.

A fejlesztés a Face Forensic++ nyilvános adatbázisára épült, és ellenőrzéséhez a DeepFake Detection Challenge Datasetet hasznáták, amely a legfontosabb modell a deepfake-felismerő technológiák tesztelésére és betanítására. A Microsoft emellett bemutatott egy új technológiát is, amely a manipulált tartalmak felismerése mellett garantálja a felhasználónak, hogy amit lát, az hiteles. A technológia két részből áll, az egyik egy Microsoft Azure-ba épülő eszköz, amelynek segítségével a tartalom digitális jelzésekkel és tanúsítványokkal láthatja el az anyagot. Ezek a hitelesség-jelzők  metaadatokként kísérik online útján a tartalmat. A második rész egy olvasó, amelyet böngészőkiterjesztésekbe lehet beépíteni, és megjelenítéskor ellenőrizi ezeket a markereket.

A deepfake elleni harcban a Microsoft az AI Foundationnel is társul, és a videók hitelességét ellenőrző eszközét a Reality Defender 2020 kezdeményezésen keresztül minden olyan szervezet rendelkezésére bocsátja, amelyik részt vesz az amerikai választási folyamatban, de természetesen globálisan is igyekszik terjeszteni, hiszen a képek és videók manipulálása már világszinten fontos probléma.