Tudatra ébredt robotok

Szakértők szerint a 21. század közepére ki fogják fejleszteni az öntudattal rendelkező intelligens gépeket. Mit jelent ez az emberiség számára? Jelent-e veszélyt ez a fejlesztés, amint erre Elon Musk USA-vállalkozó figyelmeztet. El fogják-e pusztítani a gépek az embereket? Vagy a technikával egy újfajta életmód fog kialakulni? Roland Benedikter kutató évek óta intenzíven foglalkozik ezekkel a kérdésekkel. A következő interjúban erről van szó​.



 

Elon Musk a mesterséges intelligencia (MI) nem kontrollálható veszélyeire hívja fel a figyelmet, és ezzel kapcsolatban Mark  Zuckerberg (a Facebook alapítója) tudatlanságát említi. Komolyan kell-e venni Musk figyelmeztetését?

Roland Benedikter: Úgy hiszem, hogy komolyan kell vennünk. Híres tudósok is meggyőzően állítják, hogy az emberek által kifejlesztett mesterséges intelligencia-rendszerek egy bizonyos ponttól kezdve önálló tudattal rendelkezhetnek. Szakértők úgy vélik, hogy a század közepére az ilyen tudat egyedi esetként jelenhet meg. „Öntudattal” rendelkező rendszerek megjelenhetnek azzal a szándékkal, hogy részvételre vagy önfenntartásra törekednek. És kézenfekvő, hogy ezt a technikát az emberek ellen lehet fordítani, azért hogy a saját fennmaradásukat biztosítsák. Ebben látom a fő problémát.

Ha a MI-rendszer ténylegesen veszélyes, akkor egyszerűen ki kell húzni a dugót, és ha megszűnik az áramellátás, akkor nincs többé.

Hát persze. Ha ez ilyen egyszerű lenne. Ez már ma sem megy. Társadalmaink számos digitális szolgáltatástól függenek szerte a világon. Ha az egészet megszüntetnék, az azonnali katasztrófa lenne. Az adat- és információáramlás óriási forradalma van, és ez egyre bonyolultabb. A különböző készülékek adatokat cserélnek egymással. Az internet ezt felgyorsítja. Egymással kapcsolatban levő készülékek adatokat cserélnek, és ez létrehoz egy rendszert. Minden mindent kontrollál. Egyetlen felügyelet helyett egymás között alakulnak ki az információáramlások. Ha egy ilyen teljesen behálózott világban ki akarják húzni a dugót, végre akarnak hajtani egy mindenre érvényes intézkedést, az lehetetlen. Teljesen valószínűtlen, hogy belátható időn belül ezen a planétán egy ilyen mindenre kiterjedő döntést érvényesíteni lehetne. A politika tehetetlen a technikai lehetőségekkel szemben.

Ha mégis, egy fenyegető veszély megakadályozására egy olyan világra szóló döntést kellene hozni, amely a megszakítások áradatát indítaná el, az milliók halálával járó katasztrófához vezetne.

Ez így van. És még ha sikerülne is az információk globális terjedését szelektíven megállítani, az is hasonló nagy romboláshoz vezetne. A hálózati rendszerben nem lehet leállítani az adatok áramlását. És ez évről évre nehezebb lesz. Ez korunk nagy dilemmája.

Ezek szerint már átléptük azt a „határt, ahonnan nincs visszaút”, és így csak a sorsra bízhatjuk magunkat, hogy mi történik, ha bekövetkezik az emberiség megtámadása.

Ezt én nem így látom. Én a humanizmus és a felvilágosodás védelmezője vagyok. Most egyszerűen megadjuk magunkat a sorsnak, de nem adjuk fel. De olyan naivak sem lehetünk, mint Mark Zuckerberg, aki a hálózatosodás rizikóit, amire Musk felhívta a figyelmünket,  nem akarja látni. Én azonban a pozitív oldalait is látom az információterjedés forradalmának és a mesterséges intelligenciának. Ha többmilliárd betegségtörténetet elemeznek, és aztán a következtetéseket új egyedi esetekre alkalmazzák, akkor ritka betegségekre vagy a rákra a lehető legjobb kezelést találhatják meg. Az orvostudományban óriási fejlődés várható a MI segítségével.

Ez nekem meglehetősen cinikusan hangzik. Mi hasznunk van az orvostudomány fejlődéséből, és abból, hogy súlyos betegségeket meg tudunk gyógyítani, ha 30 éven belül a MI-rendszer átveszi a planétánkon a hatalmat, és elpusztítja az emberiséget?

Épp ez az alapvető kétség, ami előttünk áll ebben a témában. A rák gyógyítását csak egy olyan technológiával érhetjük el, ami egy szörnyhöz vezethet. Az egyetlen kiút ebből a dilemmából a gondolkodás és a párbeszéd lehet. A lehető legtöbbet kell ezekről a dolgokról gondolkodni és beszélni. Ez lehetne az első lépés.

A politika mindenesetre még nem foglalkozik ezzel.

Valóban. De nagyon fontos lenne, hogy a média és egyáltalán  minél több ember foglalkozzon ezzel a témával. Akkor a politikusokhoz is eljutna. Kínában és az USÁ-ban több olyan agytröszt is létezik, amely ezzel a témával központi kérdésként foglalkozik az emberi civilizáció jövője érdekében. Mialatt mi itt Németországban csak arról tárgyalunk, hogy az autóiparban milyen hiányosságok vannak, és nem foglalkozunk azzal, hogy a globális technikai fejlődés az emberiséget hova vezeti,  lemondunk arról, hogy a lehetséges fejlődést elegendően alakíthassuk.

Ez elég kockázatosnak tűnik. Nem arra kellene-e törekednünk, hogy a komplexitás mértékét csökkentsük?

Manapság elsősorban a politikában tapasztaljuk a komplexitás csökkentését, és nem látszik jó stratégiának. Nem lehet alábecsülni a mindennapok növekedő (és a fejlődő technológiák által okozott) komplexitásának hatását a politikai döntésekre. A Brexit példa a komplexitás csökkentésére, és Trump is. De az ilyen egyszerűsítés nem megoldás, nem jutunk előbbre, ha a komplex világ valamelyik paraméterét egyszerűen kiiktatjuk. És a hamis hírekkel (fake news) sem jutunk előbbre. Az egyensúlyt kell megtalálnunk a komplexitás maximumának határa közelében. Új utakat kell találnunk a helyes döntés meghozatalához.

Mi a véleménye a következő metafóráról? Az embernek egy csepp  vizet úgy kell 100 fok alatt tartani, hogy a lehető legjobban megközelítse, de mégse forrjon föl. Mert ha mégis, az katasztrófa lenne.

Igen, ez jó hasonlat.

Mi az a pont, ameddig Ön személyesen el tudja képzelni a fejlődés előrehaladását? Mikor mondja azt, hogy ezt a piros vonalat már nem lehet átlépni?

Ezt én még nem tudom. És úgy gondolom, hogy a legtöbb ember így van ezzel. A transzhumanisták persze bármeddig elmennének. Egyesek pedig mindent visszautasítanak. Én velük sem értek egyet. Egyik szélsőséges nézetet sem támogatom, viszont nagyon fontosnak tartom, hogy széleskörű vitákat indítsunk erről a témáról.

Úgy tűnik, hogy a fajunk fönnmaradása a tét.

Középtávon igen. De talán a fejlődés vége egy istenhez hasonló, örökéletű lény – egy homo deus.


.