Tehnološki razvoj dovešće do ranjivosti ljudske civilizacije jer će biti moguće stvoriti najmoćnije oružje kod kuće. To je mišljenje švedskog filozofa i profesora na Univerzitetu u Oksfordu Nika Bustroma. U programu RT „Sofi ko. Vizionari“ on savetuje kako se pripremiti za trenutak kada veštačka inteligencija postane pametnija od ljudi.
Suština hipoteze o ranjivom svetu je u tome da će u određenoj fazi tehnološkog razvoja stvaranje moćne razorne sile postati suviše lako, a čim civilizacija dostigne taj nivo razvoja, doći će i do njenog samouništenja. Zamislite da je za stvaranje nuklearnog oružja, umesto korišćenja teško pristupačnih sirovina kao što su plutonijum ili obogaćeni uran, dovoljno samo podgrejati pesak u mikrotalasnoj peći. Tada bi verovatno bio kraj civilizacije, kaže Bustrom.
Da li će veštačka inteligencija postati pametnija od nas?
— Na kraju hoće. A u tom trenutku moraćemo nekako da garantujemo da će ti sistemi nastaviti da funkcionišu u skladu sa našim planom. Čak i kada nas intelektualno nadmaše. To je tehnički problem, koji treba rešiti tehničkim sredstvima.
Međutim, čak i da bude rešen, ostaje politički ili organizacioni problem — nazovite to kako hoćete. Recimo, ljudi mogu da nateraju veštačku inteligenciju da radi ono što je njima potrebno, ali kako osigurati da će te nove moćne tehnologije biti korišćene za dobrobit, a ne kao oruđe za rat i eksploataciju. A to već nije tehnički, nego politički problem.
U mnogim savremenim prognozama pominje se dolazak „sudnjeg dana“, tj. trenutka kada će veštačka inteligencija zarobiti čovečanstvo. Međutim, postoje i oni koji veruju u suprotno, da će nam ona pomoći da rešimo mnogo problema kao što su glad, nejednakost, globalno zagrevanje… Šta vi mislite?
— Istina je negde na sredini. To je poput vrata kroz koja morate proći. Na drugoj strani je put koji će nas odvesti u zaista sjajnu budućnost. Ako do tog trenutka ne dođe do samouništenja, onda će se prelazak dogoditi. Dakle, naš zadatak je da se fokusiramo na istraživanja, da pretražimo globalne metode kontrole veštačke inteligencije, da svetski red dovedemo do maksimalno ostvarive adekvatnosti i pojačamo saradnju. Naročito je važno da stručnjaci za veštačku inteligenciju izrade zajedničke standarde. Sa razumevanjem da se to radi za opšte dobro. Generalno gledano, moramo postati razumniji.
Kako sprečiti razaranje
Čak i uz totalnu kontrolu budućnost se ne može predvideti. Naravno, moguće je pratiti sve aktivnosti ljudi, ali će oni i pod nadzorom pronalaziti stvari čija se razorna moć neće ni naslutiti dok se ne desi nešto užasno. To što neko to prati ništa neće sprečiti..
— Ako pretpostavimo da će svet u određenoj fazi tehnološkog razvoja postati ranjiv, postavlja se pitanje šta u toj situaciji možemo učiniti da sprečimo razaranje svega živog. I čini se da bi u nekim scenarijima jedino moguće rešenje bilo sveopšti nadzor.
Naravno, sam po sebi totalni nadzor takođe predstavlja rizik za ljudsku civilizaciju, jer će omogućiti da različiti totalitarni režimi deluju još efikasnije.
Konstantni nadzor je sam po sebi karakterističan za totalitarni režim.
— Zavisi od toga u koje svrhe se koriste dobijene informacije. Ako ih prikupljaju da bi centralizovana vlast u potpunosti kontrolisala svačiji život, onda će to svakako biti totalitarizam bez presedana. Međutim, uz pasivno posmatranje ljudi bi nastavili da vode običan život. Mere bi se preduzimale samo u slučaju da neko pokuša da stvori oružje za masovno uništenje. U takvoj situaciji ovo ne bi izgledalo kao užasni totalitarizam.
Da li je to izvodljivo? Ljudi koji bi bili na čelu tog programa, našli bi se u iskušenju da ga koriste u svoje svrhe. Takva je ljudska priroda…
— Naravno, čak i da se izgradi dobro proveren sistem za masovni nadzor teoretski će se pojaviti pretnja da će odmah ili uskoro on pasti u ruke nedobronamernih građana koji će ga koristiti za svakojake pritiske.
Ovo je jedan od glavnih razloga za sumnjičavost prema tehnologijama za nadzor, što je u principu opravdano. Ipak, to nije pitanje našeg izbora — svet tako funkcioniše da u određenoj fazi tehnološkog razvoja postaje znatno lakše uništiti, nego stvoriti ili zaštititi. I u takvoj situaciji može se ispostaviti da je jedini način za sprečavanje samouništenja — provereni masovni nadzor.
Mnoštvo je primera da ljudski poroci i neorganizovanost pobeđuju bilo kakva ograničenja i norme, kao trava koja raste kroz asfalt…
— Kako proces proizvodnje oružja bude postajao jednostavniji i zahtevao sve manje teško dostupnih sirovina, ljudskih resursa i prostora, biće sve teže otkriti pretnje uz pomoć trenutnih tehnologija. Mada se i ova oblast brzo razvija. Softver za prepoznavanje lica omogućava da se uz pomoć kamera prati bilo ko. Možete čak zamisliti (ovo je ekstremni slučaj samo da bi se demonstrirala teoretska mogućnost) da će svi oblačiti odeću određenih boja i imati na sebi kamere i mikrofone — tada će sistem veštačke inteligencije moći da prati i klasifikuje sve vaše aktivnosti.
Da li živimo unutar matrice
Veštačka inteligencija zbunjuje jer su je stvorili ljudi koji su u suštini nesavršena bića. Ako su nesavršena bića izumela veštačku inteligenciju, imitirajući svog tvorca, onda je ovaj proizvod takođe nesavršen, što znači da će pre ili kasnije nešto propustiti.
— Kao prvo, on ne imitira čoveka. A kao drugo, u zavisnosti od konkretne situacije, možda neće biti neophodno nadgledati apsolutno sve.
Trenutne mogućnosti državnih organa su naravno jako ograničene, ali već je primetan ozbiljan napredak u upotrebi veštačke inteligencije za prepoznavanje nečeg — lica ili određenih aktivnosti. Pretpostavke su da će za 10-20 godina te tehnologije postati prilično ozbiljan instrument.
Odnosno, čovečanstvo neće dobrovoljno preći pod kontrolu mašina…
— Postoje varijante razvoja događaja, tokom kojih će ranjivi svet biti ili uništen ili obuhvaćen sistemom za nadzor. U zavisnosti od korišćene tehnologije za nadzor, rad tog sistema se može odvijati na različite načine, što znači da on može biti i maksimalno automatizovan. Međutim, u bliskoj budućnosti je zagarantovano ljudsko učešće. Na primer, za kontrolu rezultata rada sistema i za određivanje mera za reagovanje.
Pre hipoteze o ranjivom svetu ste imali drugu hipotezu prema kojoj svi mi možda živimo unutar određene matrice…
— Da, hipoteza simulacije. Cilj diskusije je da se pokaže tačnost jedne od tri tvrdnje.
Prva tvrdnja: sve civilizacije u našoj trenutnoj fazi tehnološkog razvoja izumiru pre dostizanja tehnološke zrelosti. Možda postoje neke daleke, drugačije, vanzemaljske civilizacije, ali nijedna od njih nije dostigla tehnološku zrelost.
Druga varijanta: sve civilizacije koje su dostigle tehnološku zrelost gube interes za stvaranje onoga što ja nazivam „simulacija predaka“. Računarska simulacija koja je dovoljno detaljna da bi ljudi imali svest i brige, slične našima.
Treća varijanta (po mom mišljenju najverovatnija): sada gotovo sigurno živimo u računarskoj simulaciji koju je stvorila neka napredna civilizacija.
(Sputnjik)
Pratite Krstaricu na www.krstarica.com