A PNAS című tudományos folyóiratban április 20-án megjelent tanulmányban a kutatók azt írják: hamarosan létrejöhetnek olyan evolválódó MI-rendszerek, amelyek képesek darwini evolúción alapuló fejlődésre. A kutatók szerint ezek a rendszerek különleges kockázatokat hordoznak, amelyek az evolúcióbiológia gondolati keretei alapján jobban megérthetők és mérsékelhetők.

„Az evolúció ereje világosan megmutatkozik a biológiai evolúció történetében, amely létrehozta az emberi elme kognitív képességeit” – hívta fel a figyelmet a közleményben Szathmáry Eörs, a HUN-REN Ökológiai Kutatóközpont és az ELTE evolúcióbiológia-professzora, a pöckingi Parmenides Center for the Conceptional Foundations of Science igazgatója, a tanulmány vezető szerzője.

„Elkerülhetetlennek tartjuk, hogy az MI-rendszerek fejlesztése – valószínűleg már a közeli jövőben – építeni fog a teljes körű evolúciós folyamatok erejére”
– tette hozzá Luc Steels, a KVAB robotika- és MI-professzora, a cikk vezető társszerzője.

A tanulmány rámutat, hogy az MI-kutatásban már jelenleg is megjelennek egyes evolúciós elvek és komponensek, és azt is bemutatja, hogy a további fejlesztések – különösen az ágensekre épülő mesterséges intelligencia – miként vezethetnek rövid időn belül olyan rendszerekhez, amelyek már a valódi darwini evolúció valamennyi kritériumának megfelelnek.

Az ilyen rendszerek új korszakot nyithatnak az MI fejlődésében: képesek lehetnek áttörni azokat a korlátokat, amelyek még a mai tanuló MI-rendszerek számára is nehezen leküzdhetők. Ezek a rendszerek azonban különleges kockázatot is hordozhatnak.

„A biológiai evolúció példái azt sugallják, hogy az evolválódó MI-rendszereket különösen nehéz lesz kontroll alatt tartani” – figyelmeztet Müller Viktor evolúcióbiológus, az ELTE egyetemi docense, a tanulmány első szerzője.

A tanulmány biológiai és számítógépen szimulált evolúciós példákon keresztül szemlélteti, hogy az evolúció hajlamos önző tulajdonságokat létrehozni. Az eAI esetében ez növeli annak valószínűségét, hogy a rendszer eltérjen az ember által kijelölt céloktól.

A szerzők arra is felhívják a figyelmet, hogy bár az MI kockázataival kapcsolatban a legtöbbször a mesterséges általános intelligencia (artificial general intelligence – AGI) elérésére helyeződik a hangsúly – ez az a küszöb, ahol az MI minden kognitív feladatban eléri vagy meghaladja az emberi képességeket–, az evolúció példái azt mutatják, hogy a károkozás vagy manipuláció képességéhez nincs feltétlenül szükség kiemelkedő intelligenciára.

Mint írták, jó példa erre a veszettség vírusa, amely egyszerű szerveződésű kórokozóként is képes a megfertőzött emlősök manipulálására és kihasználására. Így az evolúcióképes mesterséges intelligencia már jóval az AGI megjelenése előtt eltérhet az ember által kijelölt céloktól, és komoly kockázatot jelenthet. A kockázathoz nem kell semmilyen különleges körülménynek teljesülnie: az MI-rendszerek és az emberiség használnak közös erőforrásokat, így egy hatékonyan önreprodukáló rendszer előbb-utóbb a számunkra életfontosságú erőforrásokat vonja el.

A szerzők arra is figyelmeztetnek, hogy a rendszerek önreprodukálásának korlátozására irányuló erőfeszítések – ha nem tökéletes a kontroll – éppen azokat a tulajdonságokat szelektálják legerősebben, amelyek lehetővé teszik az ellenőrzés kijátszását.

Ráadásul az általános evolúciós szabály mellett az eAI esetében ugyanebbe az irányba hat a szelekció speciális jellege: az MI-fejlesztések legfontosabb célja a kognitív képességek folyamatos javítása.

„Míg az állatok több ezer éves tenyésztése a háziasított fajokat könnyebben kezelhetővé, jobban irányíthatóvá tette, az intelligencia növelésére irányuló szelekció az MI-rendszerek esetében növelheti annak esélyét és képességét, hogy megtévesszék az embereket és kivonják magukat az ellenőrzés alól” – figyelmeztetnek a kutatók.

A tanulmány végül arra is rámutat, hogy bár a természetes szelekción alapuló evolúció kontrollálása önmagában is rendkívül nehéz, az MI-rendszerek fejlődése több szempontból is gyorsabb és hatékonyabb lehet a biológiai evolúciónál.

A biológiai szervezetekkel ellentétben az eAI képes lehet szerzett tulajdonságok örökítésére, sőt még arra is, hogy a saját működését, egyes komponenseit célzott tervezéssel javítsa ahelyett, hogy meg kellene várnia a hasznos változatokat létrehozó véletlenszerű mutációkat. „Az MI evolúciójának lehetséges sebessége mélységesen aggasztó”
– állítja Luc Steels.

A szerzők olyan szabályozás kialakítását sürgetik, amely mérsékelheti az evolúcióképes mesterséges intelligenciához kapcsolódó veszélyeket. A legfontosabb szabály, hogy az MI-rendszerek reprodukciójának (másolásának, szaporodásának) teljes mértékben központosított emberi ellenőrzés alatt kell maradnia: tökéletes kontrollra van szükség.

„Reméljük, hogy a figyelmeztetésünk időben érkezik, és a szabályozásokat még azelőtt be lehet vezetni, hogy az eAI valóban lendületet venne” – nyilatkozta Müller Viktor. Szathmáry Eörs hozzátette: „ha nem cselekszünk, az evolúció új nagy átmenetének tanúi lehetünk, amelyben az eAI felváltja vagy legalábbis uralma alá hajtja az embert. A jövőnk foroghat kockán”
– figyelmeztet az evolúcióbiológus.

Ezek is érdekelhetnek:

Kvíz: mennyire ismered az emberi agyat? Igaz, hogy az agysejtek nem képesek regenerálódni, vagy hogy az emberi agy mérete az elmúlt tízezer év alatt csökkent? És azt tudod, hogy milyen maximális sebességgel terjedhet az információ az agy idegpályáin?

Öt történelmi tévhit, amit sokan a mai napig elhisznek Történelmünk tele van izgalmasabbnál izgalmasabb eseményekkel, sztorikkal, feljegyzésekkel, de ugyebár nem minden arany, ami fénylik.

Kvíz: mennyire ismered a Föld legszélsőségesebb helyeit? Azt például tudod, hogy melyik a Föld legmagasabb hegye, ha a teljes magasságát az alaptól a csúcsig mérjük?

Kvíz: 10 trükkös tudományos kérdés, amire nehéz helyesen válaszolni Azt például igaz, hogy az agyunknak mindössze a 10 százalékát használjuk?

(Forrás: ELTE)