„Rasszista” mesterséges intelligencia miatt borult ki a bili a Twitternél

Twitter-felhasználók több ízben is jelezték a közösségi oldalnak, hogy tapasztalataik szerint a fehér arcokat a képfelismerő algoritmus előnyben részesíti a sötét bőrű személyek arcával szemben, ez akkor tűnik fel, ha valaki mobilon oszt meg fehér és sötétebb bőrű személyeket.

A Twitter első elemzése szerint nem találtak arra utaló jelet, hogy az algoritmus így működne, de további kutatásokat végeznek.

Az ügyet Colin Madland robbantotta ki, aki arról posztolt a platformon, hogy a Zoom videókonferencia app sötétbőrű kollégájának nem jeleníti meg az arcát, amikor ő háttérképet állít be az appban. Amikor a fehér bőrű Madland ezt a felfedezését publikálni akarta Twitteren, a Twitter az ő arcát ismerte fel a képeken, fekete bőrű kollégájáét nem.

Több korábbi kutatás eredménye is arra enged következtetni, hogy a mesterséges intelligencia algoritmusok a társadalomban jelen lévő részrehajlásokkal működnek. Egy 2018-as MIT-s kutats szerint a Microsoft és az IBM mesterséges intelligencia algoritmusáról kimutatták, hogy a sötétebb bőrűek arcát nehezebben ismerték fel, mint a fehér bőrű személyekét. 2019-ben az Amazon AI algoritmusáról állapította meg egy kutatás, hogy a sötétebb bőrű személyek arcáról nehezebben állapította meg az algoritmus az illető nemét, mint fehér bőrű személyek esetében.