Mašine postaju autonomnije. Pod tim mislim da će moći da osete okolinu i naprave odluku šta da urade ili ne urade. Odluku će donositi na osnovu programiranja i iskustva. To znači da nećemo imati direktnu kontrolu onoga što mašine rade kao što danas imamo. Postoji nekoliko zanimljivih posledica ove činjenice. Jedna od njih je da će mašine biti u situaciji da donose etičke odluke.

Stavljamo mašine u situacije gde su oko ljudi. Društveni običaji i konvencvije su ono što mi uzimamo kao zdravo za gotovo i što nama izgleda prirodno, ali mašinama nije. Ne želite robota koji će dostavu obavljati trotoarom prisiljavajući sve da mu se sklanjaju sa puta. Mora bit u stanju da se kreće u masi na društveno prihvatljiv način.car-722255_1920

Dosta je zanimljivih etičkih dilema koje će se pojaviti oko autonomnih automobila a dosta njih je i društveno. Dolazim do pešačkog prelaza. Da li da pređem ulicu?  Trenutno je društvena konvencija da pogledam vozača u oči i to će mi reći da li da pređem ulicu. Ali, ne mogu da pogledam autonomni auto u oči. Postoji dosta ovakvih situacija, ne možemo samo napraviti spisak i reći “uradi ovo” ili “uradi ono”. U ove uređaje moramo programirati neke generalne principe. Možete ih nazvati etičkim principima koji će im pomoći da se ponašaju onako kako društvo to i očekuje.

 Predajem na Stenfordu i mogu Vam reći da nisam video ništa o ovome u programu studija inženjerstva. Pronaći ćete kako da budete moralni inžinjer, ali ne i kako da napravite uređaj koji je moralan. Ovo je potpuno novo područje. Ponekada se zove moralno programiranje, kompjuterska etika. Postoje odlične knjige na ovu temu. Nažalost, ako pročitate ove knjige (a ja to moram obzirom da mi je to posao), videćete da one uglavnom ukazuju na probleme. Niko nema dobru šemu kako da to uradi. Dakle potrebno je da razvijemo inženjersku disciplinu kompjuterske etike i potrebno je da razvijemo kurseve u inžinjerskim školama koje će naučiti mašine kako da se ponašaju na odgovarajući način u veoma širokom spektru novih situacija.

Dopustite mi da ukažem na ozbiljnije probleme, a onda i na one koji se mogu smatrati nezgodama. Na veoma ozbiljnoj strani je klasični filozofski “trolley problem”. U ovom scenariju vi ste u tramvaju i šine se razdvajaju. Ako ne uradite ništa vozilo će skrenuti desno, na traku na kojoj se nalazi četvoro ljudi koje će ubiti. Možete da promenite prekidač i vozilo će u tom slučaju skrenuti levo,   gde će ubiti jednu osobu. Etičko pitanje je: da li je moralno pomeriti prekidač? Tačno je da će se smanjiti broj izgubljenih života, ali je tačno i da ste preuduzeli akciju kojom ste ubili nekoga. A ako ste ta osoba možda nećete misliti da je to prava akcija. Filozofi su ovo izučavali u mnoštvu varijacija. Ali ovaj scenario će postati veoma realan zato će autonomni automobili biti u ovakvim situacijama. Zamislite da sam kupio autonomni automobil i da sam sam u njemu. Ja sam jedan. Može se dogoditi scenario u kome je četvoro, petoro ljudi ispred mog auta. Da bi spasio njihove živote moj auto mora da sleti sa mosta. Postoji filozofska teorija koja se zove utilitarizam koja postoji nekoliko vekova i koja kaže da me radi maksimizovanja dobra za društvo – moj auto treba ubiti. Ali ja neću kupiti taj auto. I imamo problem. Ne želim da vidim da ljudi da kupuju Forda umesto Ševroleta zato što će Ford verovatnije sačuvati moj život bez obzira na sve, dok će Ševrolet manje obraćati pažnju na to i može me ubiti da spasi život četvoro ljudi. Ne želim da to bude razlog zbog kojeg se prodaje automobil. Moramo imati društveni dijalog kako će ovo raditi..

Autonomni automobili imaju brojne probleme koji su veoma, veoma različiti. Do sada sam pričao samo o životu i smrti. Ali postoji dosta nijansi sive između koje su veoma različite. Danas ću argumentisati da smo već na tom putu ali ga iz zanimljivog razloga nismo prepoznali. Da bi izbegli navođenje ovog problema proizvođači automobila ne pričaju u ovome kao o veštačkoj inteligenciji. Navešću primer. Česta funkcija u automobilma je ABS – kočioni sistem koji sprečava blokiranje točkova. Ako ABS detektuje da će auto zaneti čini različite stvari kako biste zadržali kontrolu auta i kako biste nastavili kretanje u određenom pravcu. Ono što možda ne znate je da ABS u mnogim slučajevima ima duži zaustavni put nego kada samo nagazite na kočnice, blokirate ih i okrenete auto. Zamislite da vozite auto i da je ne daj Bože, dete na putu. Samo želite da se automobil zaustavi što pre. Stoga stiskate kočnicu. Sa današnjom tehnologijom autu će biti prioritet da ide pravo napred i tako udari dete. Postoje okolnosti u kojima je inžinjer doneo tu odluku dok je dizajnirao sistem. Više nemate slobodu da napravite odluku. Ne smeta mi ako se auto okrene van kontrole dok god promašujem to dete. Sada zamislite da je ABS funkcija opisana kao da simuliramo akcije profesionalnog vozača. Uzimamo taj sud i programiramo ga u mašinu koja koristi napredne tehnike veštačke inteligencije da bi se auto držao pod kontrolom na način na koji bi to činio profesionalni vozač. Možda biste se malo drugačije osećali o tome da sam prezentovao isti slučaj i pričao o večtačkoj inteligenciji. To je jednostavno funkcija automobila kao i svaka druga funkcija, kao žmigavci i sve ostalo. Ovo pitanje nikada zaista nije pokrenuto. Nikada nije ispitano. Ali kako gledamo u budućnost automatske vožnje postaće problem.

car-49278_1920

Da pređem na manje ozbiljne situacije. Nalazite se u autonomnom automobilu u dvosmernoj ulici. Ispred Vas je dostavni kamion upravo stao. Čovek iskače, otvara gepek, uzima paket i odlazi. Vama je kao vozaču dozvoljena određena sloboda u ponašanju. I šta ćete uraditi? Pogledate okolo, pređete u suprotnu traku i prestignete kamion. Savršeno prihvatljivo ponašanje. Da naglasim da kršite pravilo. Prelazite u suprotnu traku. Ako programiramo automobil da nikada ne prelazi u suprotnu traku auto će stajati i čekati da se momak vrati, što može potrajati. Ova vrsta širine koju dopuštamo ljudima da su u mogućnosti da krše pravila ili da ih iskrivljuju  u pravom smeru – moramo diskutovati da li je ovakvo ponašanje prihvatljivo za automobil.

Navešču još jedan. Zamislite da ste krenuli u bioskop a da je dostupan ograničen broj karata. Zamislite da se odjedanput pojavi 16 robota koji su u redu ispred Vas i Vi ste na kraju reda. Možete pomisliti da to nije fer. Imamo 16 robota koji će pokuputi karte za onoga kome pripadaju. Ja sam ovde, znate. Ja bih trebao biti prioritet u odnosu na robote. Kada se to dogodi u praksi mislim da će ljudi protestvovati zato što mogu videti šta se zapravo događa. Ali ista situacija se događa već danas. Želite nabaviti kartu za Bili Džoela u Medison Skver Gardenu ali tapkaroši koriste programe koji pokupe sve karte u deliću sekunde ostavljajući ljude da pokušavaju da se vrate nazad i ne daj Bože popune Antibot pitanje. Oni ne dobijaju stvari. U pitanju je potpuno ista situacija. Roboti koji rade za nekog drugog pokupe dobro pre nego što  imate priliku ili poštenu šansu da nabavite dobro, da nabavite pojedinačnu kartu. Dakle već danas se suočavamo sa identičnim etičkim i društvenim problemima, ali nisu vidljivi onoliko koliko je potrebno da bismo imali smislenu javnu diskusiju.

Prevod: Đorđe Cvetković

Procena je da će autonomni automobili biti značajno bezbedniji, stoga imamo razloga da požurujemo ovu tehnologiju. Ali zamislite scenario u kome možete nastradati zbog tuđe nemarnosti ili eventualne zloupotrebe programiranog utilitarističkog principa. I hoće li bogatiji bolje proći?

Ako ste zainteresovani da testirate sebe u najzanimljivijim etičkim dilemama koje moderne tehnologije donose dođite u subotu 26. decembra od 12-21h na Filozofski fakultet u Beogradu, Čika Ljubina 18-20.

Share on LinkedIn0Share on Facebook0Tweet about this on Twitter0Share on Google+0Email this to someone