Superinteligentnu AI bi bilo nemoguće kontrolisati smatraju naučnici

Povezane objave

• Drugi “Startup Weekend” u Novom Sadu 04/03
• Kolika je rezolucija ljudskog oka? 14/11
• Program za letnji raspust u Beogradu – besplatan za sve đake 15/06

Otkako postoji poimanje veštačke inteligencije, postoji i spoznaja o njenoj „mračnoj strani“.

Kako ona realna, prisutna u našim životima, postaje sve inteligentnija, nameće se pitanje da li će čovečanstvo moći da kontroliše superinteligentnu AI? Naučnici kažu da neće.

Najnovija studija proučava mogućnost sukoba čovečanstva i napredne veštačke inteligencije. Nakon istraživanja mogućih scenarija borbe sa „kompjuterskim silama“, tim naučnika je došao do zaključka da čovečanstvo apsolutno ne bi preživelo taj rat.

Superinteligentna veštačka inteligencija bi izazvala nestanak čovečanstva

Po dotičnoj studiji, trenutno je nemoguće simulirati šanse ljudi protiv superinteligentne AI. Razlog je taj što bi simuliranje takvog nivoa inteligencije zahtevalo tehnologiju blisku njoj samoj. Pored toga, standardna pravila robotike ne moraju nužno biti inkorporirana u istraživanje, jer ne postoji način da se utvrdi da li bi im se hiperinteligencija povinovala.

Međutim, naučnici smatraju da onog momenta kada bi kompjuterski programi postali pametniji od programera, limiti ne bi mogli da se postave. Studija objašnjava da bi limiti doduše ograničili razvoj inteligencije, što bi na kraju učinilo da AI pravila smatra nezadovoljavajućim.

Superinteligencija predstavlja fundamentalno drugačiji problem u odnosu na ono što se obično proučava pod „etikom robota“, objašnjavaju istraživači. „To je zato što je superinteligencija višedimenzionalna i samim tim potencijalno sposobna da mobiliše raznovrsnost resursa, kako bi ostvarila ciljeve koji su ljudima potencijalno neshvatljivi, a kamoli da bi mogli da ih kontrolišu.“

Uopšte ne treba da stvaramo ekstremno inteligentnu AI

Dakle, nameće se zaključak da ono što treba da uradimo je da je nikada ne kreiramo. Gore spomenuta ograničenja striktnog programiranja moraju biti postavljena pored brojnih drugih limita.

Primera radi, zadržavanje AI ograničenom u okviru skupa podataka, bez slobodne vladavine na internetu je dobar početak. Ekstremno pametna veštačka inteligencija ne može da postoji u okviru zadatih limita, ali tako je verovatno i najbolje.