Napi Köz(l)öny Csináld magad újság!
A kutatók arra a következtetésre jutottak, hogy szükséges lenne létrehozni egy olyan kapcsolót, amivel le lehet állítani a mesterséges intelligenciát, mielőtt az az emberiség ellen fordul.
Tudásunkkal és technológiánkkal eljutottunk arra a szintre, hogy a mesterséges intelligenciától való félelem már nem csak a Terminátor filmek kitalált világában létezik. Az elképzelés, hogy a gépek valamiféle öntudatra ébrednek, és az emberiség ellen fordulnak egyáltalán nem alaptalan, ezt igazolja a Google új lépése is.
A Google mesterséges intelligencia divíziója, a DeepMind, valamint az Oxford University egy olyan kapcsoló kidolgozásán munkálkodik, ami képes leállítani az MI-t, ha az szükségessé válna.
Az elővigyázatosság fontosságára hívja fel a figyelmet Elon Musk, a Tesla Motors alapítója is, aki szerint a veszély egy nagyon is valós probléma. Véleménye szerint már most egy digitális világban élünk, és kiborgokká kell válnunk, hogy ne lepjenek el minket a gépek.
A Google DeepMind kutatói, Laurent Orseau és Stuart Armstrong az Emberi Jövő Intézetétől azon fáradoznak, hogy elejét vegyék egy esetleges katasztrófának és meggátolják, hogy a saját létünk könnyítésére létrehozott mesterséges elmék átvehessék az uralmat az emberiség felett.
A szakemberek számára a legnagyobb kihívás, hogy olyan módszert fejlesszenek ki a lekapcsolásra, melynek kikerülését a mesterséges intelligencia nem tudja megtanulni.
„Most és akkor is fontos lehet, hogy csak emberi operátor tudja megnyomni a nagy, piros gombot, ami megakadályozza a káros műveletsorokat” – nyilatkozták.
A szakemberekre, a már túlontúl ügyes MI miatt nagy teher nehezedik. Ezt mi sem bizonyítja jobban, mint a tény, hogy 2013-ban az MI inkább megállította a Tetris-t, csakhogy ne kelljen azzal szembesülnie, hogy véget ért a játék.
Mindezek fényében a legnagyobb kérdés az, hogy hogyan lehet egy olyan módszert kifejleszteni a lekapcsolásra, amit a robotok nem tudnak megtanulni, és nem tudják megkerülni a rendszert.
A kutatók szerint már most elengedhetetlen foglalkozni a problémával, megelőzve ezzel egy esetleges világméretű katasztrófát.
Az ember egy olyan teremtményt alkotott, ami képes gyorsabban tanulni, mint teremtője. Jó példa erre a Microsoft chat-robotja, Tay, aki ártatlan robotlányból egy hitlerista-szexista döggé változott, ehhez pedig még egyetlen napnak sem kellett eltelnie. Mindez azért következhetett be, mert az emberi viselkedésből próbálta meg felépíteni saját „személyiségét”.
A veszély tehát valós, a sciene-fiction nem fiction többé, beléptünk a technológiai újkorba, melyet már most meg kell tanulnunk kontrollálni.
Vajon sikerülhet uralmunk alatt tartani a gépeket, vagy saját gyilkosainkat „szüljük” világra?
(rejtelyekszigete.com nyomán)
