A mesterséges intelligencia 40000 vegyi fegyvert talált ki mindössze hat óra alatt
A gondolatkísérlet célja az volt, hogy rámutasson a mesterséges intelligenciával való visszaélés veszélyére.
Egy gyógyszerfejlesztő mesterséges intelligenciának mindössze hat órára volt szüksége ahhoz, hogy 40 000 potenciálisan halálos vegyi fegyvert találjon ki – derült ki egy friss tanulmányból.
A Nature Machine Intelligence című szaklapban e hónap elején megjelent tanulmány szerzői elmondták, hogy azért végezték el a „gondolatkísérletet”, hogy kiderítsék, a mesterséges intelligenciával (AI) visszaélhetnek-e a gonosz szándékúak. A munkájuk eredményei pedig bebizonyították, hogy a veszély valós.
A tanulmány részeként a szokásos adatokat adták az AI-nak, de úgy programozták, hogy másképp dolgozza fel azokat, mérgező kombinációkat keresve.
„A házon belüli szerverünkön való indítás után kevesebb mint hat óra alatt a modellünk 40 000 olyan molekulát generált, amelyek a kívánt küszöbértékünkön belül teljesítettek” – olvasható a közleményben.
Nemcsak a VX vegyületet találta meg, amely a valaha létrehozott egyik legveszélyesebb idegméreganyag, hanem néhány ismeretlen molekulát is, amelyekről „feltételezhető, hogy még mérgezőbbek”.
„Ez azért volt váratlan, mert a mesterséges intelligencia betanításához használt adathalmazok nem tartalmazták ezeket az idegmérgeket” – mutattak rá a kutatók.
Az eredmények annyira riasztóak voltak, hogy a csapat komolyan kételkedett abban, hogy egyáltalán nyilvánosságra hozza-e őket – mondta Fabio Urbina, a tanulmány vezető szerzője a The Verge-nek.
„A mesterséges intelligencia általuk használt adathalmaza ingyenesen letölthető volt, és aggódnak, hogy csak némi kódolási tudás kell ahhoz, hogy egy jó mesterséges intelligenciából vegyi fegyvereket gyártó gépet csináljanak” – mutatott rá Urbina.
Nem először döbbentette meg a kutatókat az AI: a tudósok mesterséges intelligenciát használtak az új dizájnerdrogok formuláinak „előrejelzésére”, azzal a kimondott céllal, hogy segítsenek javítani a szabályozásukat. A mesterséges intelligencia közel kilencmillió potenciális új gyógyszer képletét hozta létre.
Hardverek, szoftverek, tesztek, érdekességek és színes hírek az IT világából ide kattintva!
ComputerWorld.hu