Két hónapja számoltunk be arról a Rakétán, hogy olyan hatékony hanghamisító szoftvert készített a Microsoft, hogy inkább nem hozza nyilvánosságra azt. Úgy tűnik azonban, hogy Redmond óvatossága nem elég ahhoz, hogy megelőzze a hangutánzó MI-eszközök törvénytelen felhasználását. A The Washington Post most arról írt, hogy az Egyesült Államokban tavaly több mint harminchatezer "imposztor átverés" történt, ezek közül több mint ötezer telefonon keresztül.

Egy fiatal férfi szüleit például felhívta egy állítólagos ügyvéd, és azt mondta, hogy a fiuk halálos autóbalesetet okozott, így pénzre van szüksége a jogi teendők miatt. Majd átadta a telefont a fiatalembernek, aki annyit mondott, hogy szereti a szüleit, és nagyon várja a pénzt.

A férfi, mint később kiderült, semmit sem tudott az egészről, a bűnözők egy szoftver segítségével "adták a szájába" a mondatokat. A hang elég élethű volt ahhoz, hogy a szülők elhitték, hogy a gyerekükkel beszélnek - és már indultak is egy bitcoin-automatához elutalni a kért összeget. A csalók valószínűleg a fiatalember YouTube-videóiból szerezték a hangmintát - a Microsoft programjának például elég három másodperc ahhoz, hogy megtanuljon úgy beszélni, mint a hang gazdája. A Post cikke megjegyzi, hogy létezik olyan vállalat, ami kifejezetten az ilyen "hamisított hangok" létrehozásával foglalkozik. Így fordulhatott elő, hogy korábban Emma Watson színésznő hangján "olvastatták fel" Adolf Hitler: Mein Kampf című könyvét.

Az ilyen rendszerek, a képeket vagy szöveget készítő MI-khez hasonlóan, annál precízebbek és élethűbbek lesznek, minél nagyobb mintán edzik, tanítják azokat, vagyis az idő előrehaladtával egyre nehezebb lesz megkülönböztetni a szintetikus és az organikus információkat. Kínában egyenesen engedélyhez kötötték a hasonló szoftverek fejlesztését, illetve kötelezővé tették úgynevezett vízjelek elhelyezését az MI által létrehozott állományokban. Mi egyelőre annyit tehetünk, hogy egy gyanús hívás esetén letesszük a telefont, majd a szokott számán felhívjuk az illető rokonunkat. És reméljük, hogy ott már valóban az ő hangja fogad minket.

(Borítókép: Unsplash/quinoal)