Näib, et kuu ei möödu ilma, et mõni kõrgetasemeline inimene kommenteeriks tehisintellektiga masinate potentsiaali maailma vallutamiseks. Elon Musk väidab, et AI-süsteemid on "potentsiaalselt ohtlikumad kui tuumad". Kuid ta pole ainus, Stephen Hawking on samuti mures: "Täieliku tehisintellekti arendamine võib inimkonna lõppu kirjutada". Professor Hawking ütles BBC-le. "See astuks iseseisvalt töösse ja kujundaks end üha uuema kujundusega." Isegi Bill Gates on mures: "Olen laagris, mis on mures superluure pärast. Olen selles osas nõus Elon Muski ja mõne teisega ega saa aru, miks mõned inimesed seda ei tunne. "
Nad kõik väljendavad muret võimalusel, et võimsatel AI-süsteemidel võivad olla tahtmatud või isegi potentsiaalselt katastroofilised tagajärjed. Jaanuaris annetas Elon Musk 10 miljonit dollarit Elu Tuleviku Instituudile (FLI), et viia läbi ülemaailmne uurimisprogramm, mille eesmärk on hoida AI inimkonnale kasulikuna.
Täna teatas Elu Tuleviku Instituut, et ta on eraldanud 7 miljonit dollarit raha 37 uurimisrühmale kogu maailmas, et ühiskond saaks AI eeliseid ära kasutada, vältides samas apokalüpsist ja maapealse elu lõppu.
Terminaatori stsenaariumi puhul ei ole oht mitte selles, et see juhtub, vaid selles, et see hoiab tähelepanu eemale tulevase AI tekitatud tegelikest probleemidest.
Jaan Tallin, üks FLI asutajaliikmeid ja Skype'i algse versiooni kirjutanud mees, ütles uue uurimistöö kohta: “Täiustatud AI ehitamine on nagu raketi laskmine. Esimene väljakutse on kiirenduse maksimeerimine, kuid kui see hakkab kiirendama, peate keskenduma ka roolimisele. ”
37 projekti hulgas on kolm projekti, mis käsitlevad tehnikaid, mis võimaldavad AI-süsteemidel õppida seda, mida inimesed eelistavad meie käitumise jälgimisel. Üks neist projektidest toimub UC Berkeley ja üks Oxfordi ülikoolis.
Masinluure uurimisinstituudis töötav Benja Fallenstein teenib 250 000 dollarit, et uurida võimalusi, kuidas hoida superintelligentsete süsteemide huvid vastavusse inimväärtustega. Kui Manuela Veloso meeskond Carnegie-Melloni ülikoolist saab 200 000 dollarit, et vaadata, kuidas panna AI-süsteemid inimestele oma otsuseid seletama.
Muud projektid hõlmavad Stanfordi ülikooli Michael Webbi uurimust, kuidas hoida AI majanduslikke mõjusid kasulikuks, projekti, kuidas hoida AI-st juhitavaid relvi „sisuka inimese kontrolli all” ning uut Oxford-Cambridge'i uurimiskeskust AI uurimiseks. - asjakohane poliitika.
Kui rääkida Hollywoodist, siis FLI üritab end lahti seostada apokalüpsist. FLI soovib rõhutada faktide ja ilukirjanduse eraldamise tähtsust. "Terminaatori stsenaariumi oht pole mitte see, et see juhtub, vaid see, et see eemaldab tähelepanu tulevase AI tekitatavatest tegelikest probleemidest," ütles FLI president Max Tegmark. "Oleme keskendunud ja 37 meeskonda, keda tänased toetused toetavad, peaks aitama selliseid tegelikke probleeme lahendada."
Mida sa arvad? Raha on hästi kulutatud?
