Mašine postaju autonomnije. Pod tim mislim da će moći da osete okolinu i naprave odluku šta da urade ili ne urade. Odluku će donositi na osnovu programiranja i iskustva. To znači da nećemo imati direktnu kontrolu onoga što mašine rade kao što danas imamo. Postoji nekoliko zanimljivih posledica ove činjenice. Jedna od njih je da će mašine biti u situaciji da donose etičke odluke.
Stavljamo mašine u situacije gde su oko ljudi. Društveni običaji i konvencvije su ono što mi uzimamo kao zdravo za gotovo i što nama izgleda prirodno, ali mašinama nije. Ne želite robota koji će dostavu obavljati trotoarom prisiljavajući sve da mu se sklanjaju sa puta. Mora bit u stanju da se kreće u masi na društveno prihvatljiv način.
Dosta je zanimljivih etičkih dilema koje će se pojaviti oko autonomnih automobila a dosta njih je i društveno. Dolazim do pešačkog prelaza. Da li da pređem ulicu? Trenutno je društvena konvencija da pogledam vozača u oči i to će mi reći da li da pređem ulicu. Ali, ne mogu da pogledam autonomni auto u oči. Postoji dosta ovakvih situacija, ne možemo samo napraviti spisak i reći “uradi ovo” ili “uradi ono”. U ove uređaje moramo programirati neke generalne principe. Možete ih nazvati etičkim principima koji će im pomoći da se ponašaju onako kako društvo to i očekuje.
Predajem na Stenfordu i mogu Vam reći da nisam video ništa o ovome u programu studija inženjerstva. Pronaći ćete kako da budete moralni inžinjer, ali ne i kako da napravite uređaj koji je moralan. Ovo je potpuno novo područje. Ponekada se zove moralno programiranje, kompjuterska etika. Postoje odlične knjige na ovu temu. Nažalost, ako pročitate ove knjige (a ja to moram obzirom da mi je to posao), videćete da one uglavnom ukazuju na probleme. Niko nema dobru šemu kako da to uradi. Dakle potrebno je da razvijemo inženjersku disciplinu kompjuterske etike i potrebno je da razvijemo kurseve u inžinjerskim školama koje će naučiti mašine kako da se ponašaju na odgovarajući način u veoma širokom spektru novih situacija.
Dopustite mi da ukažem na ozbiljnije probleme, a onda i na one koji se mogu smatrati nezgodama. Na veoma ozbiljnoj strani je klasični filozofski “trolley problem”. U ovom scenariju vi ste u tramvaju i šine se razdvajaju. Ako ne uradite ništa vozilo će skrenuti desno, na traku na kojoj se nalazi četvoro ljudi koje će ubiti. Možete da promenite prekidač i vozilo će u tom slučaju skrenuti levo, gde će ubiti jednu osobu. Etičko pitanje je: da li je moralno pomeriti prekidač? Tačno je da će se smanjiti broj izgubljenih života, ali je tačno i da ste preuduzeli akciju kojom ste ubili nekoga. A ako ste ta osoba možda nećete misliti da je to prava akcija. Filozofi su ovo izučavali u mnoštvu varijacija. Ali ovaj scenario će postati veoma realan zato će autonomni automobili biti u ovakvim situacijama. Zamislite da sam kupio autonomni automobil i da sam sam u njemu. Ja sam jedan. Može se dogoditi scenario u kome je četvoro, petoro ljudi ispred mog auta. Da bi spasio njihove živote moj auto mora da sleti sa mosta. Postoji filozofska teorija koja se zove utilitarizam koja postoji nekoliko vekova i koja kaže da me radi maksimizovanja dobra za društvo – moj auto treba ubiti. Ali ja neću kupiti taj auto. I imamo problem. Ne želim da vidim da ljudi da kupuju Forda umesto Ševroleta zato što će Ford verovatnije sačuvati moj život bez obzira na sve, dok će Ševrolet manje obraćati pažnju na to i može me ubiti da spasi život četvoro ljudi. Ne želim da to bude razlog zbog kojeg se prodaje automobil. Moramo imati društveni dijalog kako će ovo raditi..
Autonomni automobili imaju brojne probleme koji su veoma, veoma različiti. Do sada sam pričao samo o životu i smrti. Ali postoji dosta nijansi sive između koje su veoma različite. Danas ću argumentisati da smo već na tom putu ali ga iz zanimljivog razloga nismo prepoznali. Da bi izbegli navođenje ovog problema proizvođači automobila ne pričaju u ovome kao o veštačkoj inteligenciji. Navešću primer. Česta funkcija u automobilma je ABS – kočioni sistem koji sprečava blokiranje točkova. Ako ABS detektuje da će auto zaneti čini različite stvari kako biste zadržali kontrolu auta i kako biste nastavili kretanje u određenom pravcu. Ono što možda ne znate je da ABS u mnogim slučajevima ima duži zaustavni put nego kada samo nagazite na kočnice, blokirate ih i okrenete auto. Zamislite da vozite auto i da je ne daj Bože, dete na putu. Samo želite da se automobil zaustavi što pre. Stoga stiskate kočnicu. Sa današnjom tehnologijom autu će biti prioritet da ide pravo napred i tako udari dete. Postoje okolnosti u kojima je inžinjer doneo tu odluku dok je dizajnirao sistem. Više nemate slobodu da napravite odluku. Ne smeta mi ako se auto okrene van kontrole dok god promašujem to dete. Sada zamislite da je ABS funkcija opisana kao da simuliramo akcije profesionalnog vozača. Uzimamo taj sud i programiramo ga u mašinu koja koristi napredne tehnike veštačke inteligencije da bi se auto držao pod kontrolom na način na koji bi to činio profesionalni vozač. Možda biste se malo drugačije osećali o tome da sam prezentovao isti slučaj i pričao o večtačkoj inteligenciji. To je jednostavno funkcija automobila kao i svaka druga funkcija, kao žmigavci i sve ostalo. Ovo pitanje nikada zaista nije pokrenuto. Nikada nije ispitano. Ali kako gledamo u budućnost automatske vožnje postaće problem.
Da pređem na manje ozbiljne situacije. Nalazite se u autonomnom automobilu u dvosmernoj ulici. Ispred Vas je dostavni kamion upravo stao. Čovek iskače, otvara gepek, uzima paket i odlazi. Vama je kao vozaču dozvoljena određena sloboda u ponašanju. I šta ćete uraditi? Pogledate okolo, pređete u suprotnu traku i prestignete kamion. Savršeno prihvatljivo ponašanje. Da naglasim da kršite pravilo. Prelazite u suprotnu traku. Ako programiramo automobil da nikada ne prelazi u suprotnu traku auto će stajati i čekati da se momak vrati, što može potrajati. Ova vrsta širine koju dopuštamo ljudima da su u mogućnosti da krše pravila ili da ih iskrivljuju u pravom smeru – moramo diskutovati da li je ovakvo ponašanje prihvatljivo za automobil.
Navešču još jedan. Zamislite da ste krenuli u bioskop a da je dostupan ograničen broj karata. Zamislite da se odjedanput pojavi 16 robota koji su u redu ispred Vas i Vi ste na kraju reda. Možete pomisliti da to nije fer. Imamo 16 robota koji će pokuputi karte za onoga kome pripadaju. Ja sam ovde, znate. Ja bih trebao biti prioritet u odnosu na robote. Kada se to dogodi u praksi mislim da će ljudi protestvovati zato što mogu videti šta se zapravo događa. Ali ista situacija se događa već danas. Želite nabaviti kartu za Bili Džoela u Medison Skver Gardenu ali tapkaroši koriste programe koji pokupe sve karte u deliću sekunde ostavljajući ljude da pokušavaju da se vrate nazad i ne daj Bože popune Antibot pitanje. Oni ne dobijaju stvari. U pitanju je potpuno ista situacija. Roboti koji rade za nekog drugog pokupe dobro pre nego što imate priliku ili poštenu šansu da nabavite dobro, da nabavite pojedinačnu kartu. Dakle već danas se suočavamo sa identičnim etičkim i društvenim problemima, ali nisu vidljivi onoliko koliko je potrebno da bismo imali smislenu javnu diskusiju.
Prevod: Đorđe Cvetković
Procena je da će autonomni automobili biti značajno bezbedniji, stoga imamo razloga da požurujemo ovu tehnologiju. Ali zamislite scenario u kome možete nastradati zbog tuđe nemarnosti ili eventualne zloupotrebe programiranog utilitarističkog principa. I hoće li bogatiji bolje proći?
Ako ste zainteresovani da testirate sebe u najzanimljivijim etičkim dilemama koje moderne tehnologije donose dođite u subotu 26. decembra od 12-21h na Filozofski fakultet u Beogradu, Čika Ljubina 18-20.
24 децембра, 2015 at 10:36 pm
Kad dođu mašine biće smak sveta, čovek je đavo.
25 децембра, 2015 at 11:51 pm
Zanimljiv tekst. Mislim da će automobili budućnosti biti programirani prema utilitarističkom modelu.
29 децембра, 2015 at 4:21 am
Mozda hoce…ali Ra ce ipak imati neki koji samo njega cuva. Nece valjda Ra da zagine zbog 20 pagana??? 🙂
29 децембра, 2015 at 9:06 pm
Svakako da bi tako trebalo biti, ali iz “treba” nikad ne proizilazi “jeste” tj “bice”. Ko zna sta ce biti kad kompjuteri preuzmu, lepo kaze Cvarkov, bice smak sveta 🙂 Mozda ne bi ni trebalo dozvoliti automobilima da budu autonomni? Bolje je da odlucuje covek za volanom nego sacica ljudi u fabrici automobila? Ili ne?
29 децембра, 2015 at 9:32 pm
Ovde se slazem za gospodinom Ra, da pre svega treba pazljivo i temeljno razmisliti o autonomiji masina…..i koristim priliku da uputim apel Guglu….
Dakle, dragi Guglu, znam da si kupio deepmind i da vec imas robote koji poseduju ljudske emocije i uce sve vise iz dana u dan…ali baki, uspori malo…svima ce se obiti o glavu. Hvala
9 маја, 2016 at 11:47 pm
Djordje, ne dobijam izvestaje sa sajta pa ne mogu na sve da odgovorim, mislim na deo gde su Koreni romantizma. Video sam poziv za druzenje, do sada ste mi svaki put pogodili smenu, gledacu da se ovog puta prilagodim:)
Jeste li razmisljali o nekoj bazi tekstova ili knjiga, koliko je to izvodljivo?
Druga stvar, da li si gledao seriju Flash…fenomenalna je, prepuna je ludih ideja, kao da su Ajnstajn i Dejvid Luis asistirali na scenariju. Veoma zanimljiva serija sa mnogo filozofije.
E sad, glavna stvar, komentari na tekst. Meni iz ovog teksta navire hiljadu pitanja! Autonomija je vezana za slobodu volje, sposobnost da se ukljucis u kauzalitet prirode i promeniš ga. Da li automobilima možemo pripisati autonomiju, odluku, ponašanje, buduću da nemaju volju, odnosno svest. Ima Denet pojam kojim obuhvata ove situacije u kojima mi mašinama pripisujemo ljudske osobine, ali ne mogu da se setim:) Vestacka inteligencija nije isto što i svest. Pokusavam ispratiti šta se danas dešava na relaciji kognitivne/neuro nauke – filozofija duha, ali toliko je toga da se čovek zaprepasti. Ako automobili budu autonomniji, nećemo ih moći kupovati kao stvari kojima možemo rukovoditi za svoje ciljeve. Autonomija u sebi sadrži cilj-sredstvo logiku, da li automobili mogu da je imaju. Ona uključuje nadanja, želje, strepnje…ok, neko može da kaže da je u osnovi sve to biologija, odnosno fizika. Ali nije, po mom dubokom uverenju. Sve i da mogu da se nadju u navedenim situacijama, oni nemaju ciljeve. Kako da programiramo automobil da ne prelazi u drugu traku, mi vec danas imamo automobile koji nece da se upale ako je vozač pio alkohol, možeš da smisliš misaone eksperimente gde i ovo može da te ubije, kada bi ti ih neko naveo verovatno ne bi poželeo da kupiš takav automobil.
Dobar tekst, nisam načisto šta da mislim o svemu ovome, ali podstiče na mišljenje…mišljenje o mišljenju:)
10 маја, 2016 at 9:35 pm
Slazem se, toliko zanimljivih stvari da se mnogo lako čovek izgubi.
Čitamo o automobilima i potpuno smo fascinirani, a onda se upustimo u razmišljenje o veštačkoj inteligenciji u nekom jačem smislu, nekoj koja može sama da uči, ili odljučuje itd.
A opet utisak je i da je sve isprepletano sa pitanjima o ljudskom poboljšanju..
12 маја, 2016 at 9:49 pm
Automobili ce biti programirani samo za odredjene vrste situacija, njihov “svet” je prilicno siromasan, on sadrzi semafor i tramvajske sine, ali ne sadrzi stvari kao sto su mastanje, dosada, ljutnja…tek neki covekoliki robot bi to mogao da ima. Automobil koji moze da odluci umesto mene nije automobil. To moze biti veoma korisno, pogotovo u rizicnim situacijama koje se u saobracaju dogadjaju (kada takva dva automobila treba da se sudare zbog greske jednog vozaca). Automobili su ipak najmanji problem, ko zna sta su do sada vec smislili u tajnim laboratorijama, velike zemlje u vojnim laboratorijama razvijaju najrazlicitije stvari, nanotehnologija, robotika, i slicno.