1.fejezet ingyen
Szuperintelligencia
Miről szól?
Nick Bostrom oxfordi futurista szerint a mesterséges intelligencia (MI) egy biztonságosabb, gazdagabb és intelligensebb világ ígéretét hordozza magában, de az emberiség nem biztos, hogy képes lesz beteljesíteni a mesterséges intelligencia ígéretét.
A három legfontosabb gondolat
Ortogonalitás tétele
Az intelligencia szintje és a végső célok egymástól függetlenek, így a hatalmas okosságból semmi nem következik arra nézve, hogy a gép mit akar.
Eszközszintű konvergencia
Szinte minden kellően okos rendszer hasonló közbülső célokat követ, például önfenntartást és erőforrásszerzést, bármi is a végső célja.
A vezérlési probléma sorrendje
A biztonság kérdését meg kell oldani, mielőtt a szuperintelligencia létrejön, mert egy végzetes hibából nincs második próbálkozás.
Olvass bele
A verebek, akik baglyot akartak
Egy tavaszi estén a verébcsapat fáradtan tért haza a fészeképítésből. Egy öreg veréb sóhajtva törte meg a csendet: „Olyan kicsik és gyengék vagyunk. Képzeljétek el, milyen könnyű lenne az életünk, ha lenne egy baglyunk. Segítene fészket rakni, vigyázna ránk, elkergetné a macskát és a menyétet.”
A gondolat futótűzként terjedt. Az egyik veréb már azt tervezte, honnan szereznek egy elhagyott bagolytojást. Egy másik a fióka etetését szervezte. A csapat lelkesen csiripelt a fényes jövőről, amelyben egy hatalmas, bölcs szárnyas őrzi a gyengéket. Csak egyetlen félszemű, örökké aggódó veréb, akit Scronkfinkle-nek hívtak, szólalt meg halkan: „Ez biztosan a végzetünk lesz. Nem kellene előbb kitalálnunk, hogyan szelídítsünk meg és tartsunk kordában egy baglyot, és csak utána hoznunk a fészkünk közelébe?”
A többiek legyintettek. Elég nehéz lesz egyáltalán megtalálni a tojást, mondták, a szelídítéssel ráérünk később. A nehéz problémát mindig holnapra halasztjuk, mert a könnyebbet ma is meg tudjuk oldani. Ezzel a mesével ajánlja Nick Bostrom oxfordi filozófus a „Szuperintelligencia” című könyvét azoknak, akik a baglyot már megálmodták, de a szelídítését még senki nem találta ki. Mert szerinte mi, emberek pontosan ezek a verebek vagyunk, és a bagoly tojása már ott melegszik valamelyik kutatólaborban.
Miért mi döntünk a gorillák sorsáról
Kinek szól?
- Akik szeretnék megérteni, miért lehet veszélyes egy nálunk sokkal okosabb gépi értelem.
- Akik vezetőként ösztönzőrendszereket vagy mutatószámokat terveznek, és tartanak a perverz beteljesítéstől.
- Akik a mesterséges intelligencia jövőjéről higgadt, alapos elemzést keresnek a rémhírkeltés helyett.
- Akik a saját munkájuk értékét féltik egy automatizált világban, és előre gondolkodnának róla.
A szerzőről: Nick Bostrom
Nick Bostrom svéd filozófus, az Oxfordi Egyetem kutatója, aki évek óta a mesterséges intelligencia hosszú távú kockázataival és az emberiség jövőjével foglalkozik. Munkájában a jövő nagy, sorsdöntő kérdéseit vizsgálja hűvös, néha száraz logikával, a magabiztosság helyett a tévedés lehetőségének elismerésével.
A „Szuperintelligencia" című könyve az MI-biztonsági gondolkodás egyik alapművévé vált. Olyan fogalmai, mint az ortogonalitás tétele és az eszközszintű konvergencia, máig meghatározzák a területről szóló vitát.
