Ideja par mākslīgo intelektu, kas gāž cilvēces varu, ir apspriesta jau daudzus gadu desmitus, un zinātnieki nupat ir pasludinājuši savu spriedumu par to, vai mēs spēsim kontrolēt augsta līmeņa superinteliģenci. Atbilde? Gandrīz noteikti nē.
Āķis slēpjas tajā, ka, lai kontrolētu ārkārtīgi gudru mākslīgo intelektu, kas ievērojami pārsniedz cilvēka saprašanu, būtu nepieciešama šāda mākslīgā intelekta simulācija, kuru mēs tad varētu analizēt. Bet, ja mēs to nespējam līdz galam izprast, nav iespējams izveidot šādu simulāciju.
Pētījuma autori skaidro, ka tādus nosacījumus kā “neradīt kaitējumu cilvēkiem” nevar noteikt, ja mēs nespējam izprast, ar kādiem scenārijiem mākslīgais intelekts plāno nākt klajā. Kad datorsistēma darbojas līmenī, kas pārsniedz mūsu programmētāju darbības jomu, mēs vairs nevaram noteikt ierobežojumus.
“Superinteliģence rada fundamentāli citu problēmu nekā tas, ko parasti pēta zem “robotu ētikas” jēdziena,” raksta pētnieki.
“Tas ir tāpēc, ka superinteliģence ir daudzpusīga, un tāpēc potenciāli spējīga mobilizēt daudzveidīgus resursus, lai sasniegtu mērķus, kas cilvēkiem ir potenciāli nesaprotami, nemaz nerunājot par kontrolējamību.”
Mākslīgais intelekts – labs vai ļauns?
Pētnieki pauž, ka mākslīgais intelekts, kas atrastos ārkārtīgi attīstītā stāvoklī, savā atmiņā būtu spējīgs uzglabāt visas iespējamās datorprogrammas.
Jebkura programma, kas uzrakstīta, lai apturētu mākslīgo intelektu, kas taisītos nodarīt kaitējumu cilvēkiem, varētu pati nonākt pie šī secinājuma, un apturēt sevi no ļaunām darbībām, vai arī tieši pretēji – turpināt darīt iesākto. Matemātiski nav iespējams būt drošiem par nevienu no šiem scenārijiem, kas nozīmē, ka tas nav ierobežojams.
Pētnieki apgalvo, ka tā vietā, lai mākslīgajam intelektam mācītu ētiku un teiktu, lai neiznīcina pasauli, vienkārši varētu ierobežot tā iespējas. Tam, piemēram, varētu nedot piekļuvi noteiktām interneta daļām vai noteiktiem tīkliem.
Taču šī ideja tajā pašā laikā tiek arī noraidīta, liekot domāt, ka tas ierobežotu mākslīgā intelekta sasniedzamību. Arguments ir tāds, ka, ja mēs to neizmantosim, lai atrisinātu problēmas, kas pārsniedz cilvēku zināšanas, kāpēc gan vispār radīt tādu visu zinošo superinteliģenci?
Ja mēs gatavojamies turpināt attīstīt mākslīgo intelektu, iespējams, ka pat nezināsim, kad tas nonāks stāvoklī, kas krasi pārspēj cilvēku prātus.
“Ļoti inteliģenta mašīna, kas kontrolē pasauli, izklausās pēc zinātniskās fantastikas,” saka datorzinātnieks Manuels Cebrians. “Bet jau tagad ir tādas mašīnas, kas dažus svarīgus uzdevumus veic patstāvīgi, programmētājiem pat pilnībā nesaprotot, kā tie to iemācījās.”
“Tāpēc rodas jautājums, vai tas kādā brīdī var kļūt nekontrolējams un bīstams cilvēcei?”
Pētījums ir publicēts Mākslīgā intelekta pētījumu žurnālā – Journal of Artificial Intelligence Research