Liekas, ka mēnesis nepaiet garām, ja kāda augsta līmeņa persona nekomentē iespēju mākslīgā intelekta mašīnām pārņemt pasauli. Elons Musks par rekordu saka, ka AI sistēmas ir “potenciāli bīstamākas par kodoliem”. Bet viņš nav vienīgais, arī Stefens Hokings ir nobažījies: “Pilnīga mākslīgā intelekta attīstība varētu uzrakstīt cilvēces galu”. Profesors Hokings stāstīja BBC. “Tas notiktu pats par sevi un pārprojektētu sevi arvien pieaugošā ātrumā.” Pat Bils Geitss uztraucas: “Es esmu nometnē, kur uztraucas par superintelliģenci. Es tam piekrītu Elons Musks un daži citi, un es nesaprotu, kāpēc daži cilvēki to neuztrauc. ”
Viņi visi pauž bažas par to, ka spēcīgām AI sistēmām var būt neparedzētas vai pat potenciāli postošas sekas. Janvārī Elons Musks ziedoja USD 10 miljonus Dzīvības nākotnes institūtam (FLI), lai vadītu globālu pētījumu programmu, kuras mērķis ir saglabāt AI labvēlīgu cilvēcei.
Šodien Dzīvības nākotnes institūts ir paziņojis, ka ir piešķīris 7 miljonus dolāru fondos 37 pētniecības grupām visā pasaulē, lai sabiedrība varētu izmantot AI priekšrocības, vienlaikus izvairoties no apokalipse un dzīves beigām uz zemes.
Terminatora scenārija briesmas nav nevis tas, ka tas notiks, bet gan tas, ka tas novērš uzmanību no reālajām problēmām, ko rada nākotnes AI.
Jānis Tallins, viens no FLI dibinātājiem un puisis, kurš uzrakstīja Skype oriģinālo versiju, sacīja par jauno pētījumu: “uzlabotas AI būvēšana ir kā raķetes palaišana. Pirmais izaicinājums ir maksimizēt paātrinājumu, bet, tiklīdz tas sāk uzņemt ātrumu, jums arī jāpievērš uzmanība stūrei. ”
Starp 37 projektiem ir trīs projekti, kuros tiks apskatīti paņēmieni, kas ļautu AI sistēmām uzzināt, ko cilvēki dod priekšroku mūsu uzvedības novērošanai. Viens no šiem projektiem tiks vadīts UC Berkeley, bet viens - Oksfordas universitātē.
Benja Fallenšteina Mašīnu intelekta izpētes institūtā iegūst 250 000 ASV dolāru, lai izpētītu veidus, kā superinteliģento sistēmu intereses saskaņot ar cilvēka vērtībām. Kamēr Manuela Veloso komanda no Kārnegi-Mellona universitātes saņems 200 000 ASV dolāru, lai apskatītu, kā panākt, lai AI sistēmas izskaidrotu savus lēmumus cilvēkiem.
Citi projekti ietver Maikla Veba no Stenfordas universitātes pētījumu par to, kā AI ekonomisko ietekmi saglabāt labvēlīgu, projektu par to, kā AI vadītus ieročus var “jēdzīgi kontrolēt cilvēki”, un jaunu Oksfordas-Kembridžas pētījumu centru AI izpētei. -atbilstoša politika.
Runājot par Holivudu, FLI mēģina norobežoties no apokalipses. FLI vēlas uzsvērt fakta nošķiršanas no daiļliteratūras nozīmi. "Terminatora scenārija briesmas nav nevis tas, ka tas notiks, bet gan tas, ka tas novērš uzmanību no reālajām problēmām, ko rada nākotnes AI," sacīja FLI prezidents Makss Tegmarks. "Mēs koncentrējamies, un 37 komandām, kuras atbalsta šodienas dotācijas, vajadzētu palīdzēt risināt šādas reālas problēmas."
Ko tu domā? Labi iztērēta nauda?
