Matematički je nemoguće dokazati da li bi veštačka superinteligencija došla do zaključka o određenom problemu, zbog čega ne možemo biti potpuno sigurni, a samim tim ne bismo ni imali kontrolu nad njim.
Napredna veštačka inteligencija je od velike koristi za čovečanstvo, minimizirajući rizik od ljudske greške u raznim procesima, ali ako je tehnološki razvoj podigne na nivo superinteligencije, niko više neće moći da je kontroliše, potvrđuju nove kalkulacije.
Već u januaru ove godine grupa naučnika je upozorila da je gotovo nemoguće kontrolisati visoko razvijenu kompjutersku superinteligenciju, čak i uz osnovne zakone robotske etike – da služi tvorcu, a ne povredi ljude.
- Superinteligencija je sveobuhvatna i potencijalno sposobna da mobiliše različite resurse za postizanje ciljeva koji su ljudima potencijalno neshvatljivi, a nisu kontrolisani - rekli su šestorica autora studije, objavljene u Journal of Artificial Intelligence Research.
Fokus istraživanja bio je na problemu zaustavljanja, koji je definisao pionir kompjuterskog rezonovanja, Alan Tjuring 1936. godine: Da li će kompjuterski program znati da li je pronašao traženo rešenje ili će nastaviti da zauvek traži odgovor?
Kompjuteri su pravi primer da mašine obično prestaju da računaju nakon što ponude traženi odgovor, ali je Tjuring matematički dokazao da je to logično nemoguće potvrditi za svaki mogući program koji bi bio definisan. To je ono što obuhvata svaku veštačku superinteligenciju, koja bi se pri traženju rešenja oslanjala na više programa istovremeno.
– Matematički je nemoguće dokazati da li bi veštačka superinteligencija došla do zaključka, zbog čega ne možemo biti apsolutno sigurni, a samim tim i ne bi imali kontrolu nad njom – kažu autori.
Proračuni pokazuju da ne postoji apsolutno sigurno rešenje čak i ako se veštačka inteligencija podstiče da uči i primenjuje etiku.
- Superinteligentna mašina koja bi kontrolisala svet deluje kao deo naučne fantastike. Ali već postoje mašine koje obavljaju važne zadatke nezavisno od svojih kreatora, čak i bez da programeri razumeju kako je mašina stekla takve veštine. Stoga se postavlja pitanje da li će takve mašine uopšte moći da se kontrolišu i da li će to biti opasno po čovečanstvo – kaže Manuel Sebrijan sa Instituta za ljudski razvoj Maks Plank.
NIKOLU JOKIĆA optužili da je RASISTA! 🏀😳
Autor: redportal.rs
