Ahogy arról a Creative Bloq beszámolt, a GFPGAN gépi tanulási modellen alapuló programot a Hacksider nevű felhasználó tette közzé a Githubon egy rövid videót is mellékelve, amelyen Elon Muskot személyesítették meg a Deep-Live-Cammel.

where we are with ai today:

it now takes 5 minutes and just a single target photo for you to call into a zoom meeting deep faked as anybody you want, whether elon musk or donald trump, in real time:pic.twitter.com/YKpVzqJQms

— Siqi Chen (@blader) August 10, 2024

Az elsötétített szobában készült videó alapján valószínűleg kevesen kételkednének benne, hogy azon valóban a Tesla és SpaceX vezetője látható, ami figyelembe véve, hogy hogyan készült a felvétel, több, mint figyelemre méltó. Bár a valódihoz megszólalásig hasonlító deepfake videókat eddig sem volt lehetetlen összehozni, ehhez legalább néhány jó minőségű forrásvideóra vagy különböző szögből készült fotóra volt szükség, a Deep-Live-Cammel azonban mindössze egyetlen egy fotó alapján húzhatjuk magunkra bárkinek az arcát, hogy azt aztán élő videókban használjuk.

here’s a guy pretending to be jd vancepic.twitter.com/QW6kPtYQ5W

— Siqi Chen (@blader) August 10, 2024

Ez azonnal komoly etikai aggályokat is felvet, hiszen bár a készítők a program leírásában kikötik, hogy azt csak deepfake megjelöléssel lehet használni, a videókhoz pedig a megszemélyesített ember beleegyezése is szükséges, az már nyilvánvalóan csak a felhasználókon múlik, hogy eleget tesznek-e a felszólításnak. Bár az X-en közzétett videók alapján látható, hogy világosabb szobában a végeredmény azért kevésbé hiteles, nem nehéz belátni, hogy egy ilyen eszköz könnyen veszélyes fegyverré válhat a csalók kezében, akik a deepfake segítségével már eddig is hitelesen személyesítettek meg családtagokat, ügyfeleket, de még cégvezetőket is annak érdekében, hogy pénzt csaljanak ki a gyanútlan áldozatoktól.

Az emberek akkor képesek társadalmat építeni, ha bíznak egymásban, a deepfake pedig ezt a bizalmat ássa alá Milyen hatással van a deepfake, vagyis a mélyhamisítás a társadalmunkra? A témát részletesen körüljáró, frissen megjelent könyv bemutatóján 14 szakértő vitatta meg a jelenséget különböző szempontok alapján.