Nick Bostrom: Szuperintelligencia

A Szuperintelligencia tanulsága két mondatban összefoglalható: Ha erős mesterséges intelligenciát készítünk, annak jó eséllyel szívás lesz a vége. Hogy ne így legyen, olyan körültekintően kell eljárnunk, amire még nem volt példa az emberi történelem folyamán. 

Gyakorlatilag nem telik el hét mesterséges intelligenciával kapcsolatos hírek nélkül mostanában. Ugyan nem uralkodnak (még?) robot overlordok az emberiségen, de a világ technológiai szempontból fejlettebb részein elég sok specializált mesterséges intelligenciát alkalmaznak, egy részükkel az átlagember is napi rendszerességgel találkozik, legfeljebb nem realizálja, hogy miről is van szó. A svéd filozófus, jövőkutató, természettudós, a mesterséges intelligencia kutatója, Nick Bostrom nem az internetes keresőmotorokról, önvezérlő autók rendszeréről, útvonaltervezőkről, virtuális asszisztensekről ír, hanem ezek nagytesójáról, a lényegesen fejlettebb és univerzális mesterséges intelligenciáról. 

A Szuperintelligencia nem himnusz a mesterséges intelligenciához, nem a technológiai fejlődés bibliája, mint A szingularitás küszöbén. Nick Bostrom szinte teljesen elveti Ray Kurzweil optimizmusát, a technológiai hatásokkal is viszonylag keveset foglalkozik, ellenben nagyon alaposan körbejárja egy fejlett, minimum emberi szintű MI létrehozásával és társadalmi hatásaival kapcsolatos problémákat.

Nagy szükség van az ehhez hasonló könyvekre. Nem tudom, hogy tényleg húsz éven belül várható-e a valódi/erős/univerzális mesterséges intelligencia létrehozása és az ezzel járó elképzelhetetlen változások, mint azt Kurzweil írja, de az biztos, hogy - értelemszerűen - minden eddiginél közelebb állunk hozzá. Éppen ezért Bostrom könyve rendkívül aktuális: ha tényleg elkezdünk ezen dolgozni, azt rendkívüli körültekintéssel kell tennünk (a többesszám úgy általában az emberiségre értendő). Felépítés, motivációkiválasztás, jutalmazási rendszer, biztosítékok, eszközök, hozzáférés - iszonyú sok mindenen bukhat a dolog.

(Nick Bostrom bemutatja a Google-nél a Szuperintelligenciát - hosszú, de érdemes belenézni)

A Jurassic Park óta az óvodások is betéve tudják, hogy egyvalamin nem szabad spórolni abban az esetben, ha valami potenciálisan veszélyes és példák híján teljesen ismeretlen dologgal szórakozunk, és az a biztonság. Az egyetlen különbség az, hogy ha egy T. rex elszabadul egy szigeten, esetleg megkóstol néhány embert, de ha egy rosszul összerakott, minimum emberi szintű MI jár túl az őrzői eszén - és túl fog, ne legyenek kétségeink - azt legjobb esetben is a komplett földi élet fogja megszívni.

Nézzünk még egy jól ismert példát: annak idején Asimov megírta a robotika három (plusz egy) törvényét, aminél azóta sem sikerült jobbat találni, de már ő is arra használta őket, hogy a törvények hibáit, hiányosságait, másképp értelmezéseit vizsgálja a történeteiben. Hiába hangzik jól például, hogy “A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.”, ha már a puszta definíciók megadása is gyakorlatilag leküzdhetetlen nehézségekbe ütközik, arról nem is beszélve, hogy hányféleképpen mehet félre a legegyszerűbb utasítás is, ha azt nem megfelelően - nem emberi módon - értelmezik. 

Mindennek ellenére szó nincs arról, hogy Bostrom szándékosan borúlátó képet festene a mesterséges intelligenciákról és nem is öncélúan vészmadárkodik. Látja és leírja egy jól összerakott, erős MI hasznát, értékét és előnyeit, de tökéletesen tisztában van a lehetséges buktatókkal, egzisztenciális kockázatokkal is. Rendes tudóshoz illően abszolút realistán közelíti meg a témát és pontosan ezért kell nagyon komolyan venni, amikor óvatosságra int. Tekintve, hogy az MI potenciálisan veszélyesebb lehet, mint az atombomba volt a negyvenes években, és csak egyszer ronthatjuk el vagy járhatunk sikerrel, minden óvatosságunkra és tudásunkra szükség lesz. 

Ugyan egyáltalán nem biztos, hogy húsz éven belül elkészül a szuperintelligens MI, de már a puszta gondolattal is érdemes eljátszani. Ilyen értelemben Bostrom írása izgalmas intellektuális kaland és alapos háttérmű hasonló témájú sci-fi történetekhez, olvasók és írók részére egyaránt. Abban az esetben viszont, ha még a mi életünkben bekövetkezik az áttörés, a jövő kézikönyvévé lép elő, és mint ilyet, nem csak azoknak kötelező elolvasnia és alaposan átgondolnia, akiknek közük lehet az erős MI létrehozásához, vagy érdeklődnek a téma iránt, hanem mindenkinek, aki nem tervez elhalálozni néhány évtizeden belül. 

--

Kiadó: Ad Astra

Kiadási év: 2015

Eredeti megjelenés: 2014

Eredeti cím: Superintelligence

Fordító: Hidy Mátyás

Borító: Sallai Péter

ISBN: 978-615-5229-61-9

Oldalszám: 464

Ár:  4990,-  3990,- a kiadótól 

--

Tetszett a bejegyzés? Oszd meg ismerőseiddel is! :)