imagazin arrow2-left arrow2-right arrow2-top arrow-up arrow-down arrow-left arrow-right cart close dossiers education fb instagram menu notification oander rss rss-footer search service shuffle speech-bubble star store stores tests twitter youtube

Roboti postaju previše čudni


Ko je nekada bio zainteresovan za naučnu fantastiku dobio je nedavno pravu duplu poslasticu kada su lansirani najnoviji projekti Boston Dynamics-a i Google-a. Novi moralni problemi su stigli na red za rešavanje!

Ja sam ja, ti si ti. Ko je od nas dvoje robot?

Ne znamo da li je to bio prvi put da je pop-kultura počela da se bavi tim pitanjem, ali te 1982. godine kada je izašao Blade Runner, mnogi su bili zabrinuti sledećim problemima:

Ko su roboti? Ko su ljudska bića? Gde su granice između njih i kako možemo da ih razlikujemo? 

Tih dana se na takva pitanja posmatralo kao na nadrealna i filozofska. U to vreme ni prvi Macintosh nije bio objavljen, a slika ispod dokazuje kako je izgledao.

Kada ga pogledate, jasno vam je da je granica između čoveka i računara vrlo jasno definisana. Ipak, 35 godina kasnije, pojavile su se nove grane nauke u koje spada i Google-ov najnoviji izum iz domena veštačke inteligencije koji može da prepolovi ljudsko telo uz pomoć jednog telefona.

Snimak iznad je predstavila ova kompanija na ovogodišnjem Google I/O-u koji se održao pre manje od nedelju dana. Koncept je bio takav da ništa nije bilo unapred dogovoreno ili montirano. Dakle, radnica jednog frizerskog salona je regularno podigla slušalicu i sve vreme dok je razgovarala sa veštačkom inteligencijom mislila je da razgovara sa asistentkinjom koja pokušava da zakaže termin za svog šefa.

Treba spomenuti da je reč o jednom zaista jednostavnom i uniformnom razgovoru sa prilično predvidivim i šablonskim pitanjima i odgovorima. Ali je, u svakom slučaju, zapanjujuće to što Google-ova asistentkinja može da prođe i kroz sporije delove razgovora. U drugom snimku možete da čujete Duplex kako rezerviše sto u restoranu. Radnica koja je primila poziv je bila prenatrpana zahtevima.

Kao što možete da čujete, Duplex ne samo da može da se nosi sa situacijom, već je mogao i da razume složen problem poput onog da je rezervacija moguća samo za više od pet osoba. Postavio je i pitanje o vremenu čekanja i završio razgovor. Veliki korak napred za ovu tehnologiju je upravo to što mašina može da vodi aktivan razgovor.

Sada gotovo sigurno možemo da kažemo da bi razlikovanje ljudi od mašina uskoro moglo da postane svakodnevni problem.

Voight-Kampffov Test

Navedeni Blade Runner u režiji Ridley Scotta počinje slavnom scenom u kojoj jedan od istrebljivača izvodi Voight-Kampffov test na replikantu, tj. Android-u, kako se kasnije ispostavilo. Glavni cilj testa, koji je namenjen psihološkom testiranju, je bio da razlikuje ljude i robote s obzirom da su roboti postali toliko razvijeni da je bilo nemoguće razlikovati ih pomoću ustaljenih metoda.

Naravno, u realnosti ne postoji Voight-Kampffov test. On je samo proizvod fikcije iz pera poznatog sci-fi pisca, Phillipa K. Dicka koji je zapravo napisao knjigu „Sanjaju li Androidi električne ovce?“ koja je kasnije poslužila kao osnova za ovaj film. Ovaj fiktivni test je zasnovan na psihologiji. International Affective Picture System je baza fotografija koja je dizajnirana da pruži standardni set fotografija za proučavanje emocija i pažnje. Na uznemirujuće fotografije koje je moguće pronaći u sistemu mnogi ljudi imaju emocionalne reakcije. Roboti, naravno, nemaju tu mogućnost što potvrđuje pretpostavku da njih prati odsustvo stvarnih emocija.

Iako Voight-Kampffov test nije realan, Turingov definitivno jeste. Razvio ga je Alan Turning, britanski matematičar i otac savremene informatičke nauke. Test služi za „procenu“ veštačke inteligencije. Ako onaj ko procenjuje ne može pouzdano da razlikuje mašinu od čoveka, to za mašinu znači da je „položila ispit“.

Bilo je nekoliko pokušaja da se prođe test, ali bez naročitog uspeha. Turing je izračunao da ćemo do 2000. godine imati tehnologiju koju će prosečna osoba moći da razlikuje od ljudi sa verovatnoćom od 70%.

2014. godine, chatterbot nazvan Eugene Goostman je uspeo da uveri korisnike da je pravi čovek, sa stopom uspeha od 33%. Mediji su se bavili tim pitanjem navodeći da je to prvi program koji je uspeo da prođe Turingov test, što se i ne može sasvim potvrditi. Softver je, navodno, razgovarao sa tinejdžerom iz Ukrajine, pa su tako lakše uspeli da sakriju greške.

Danas se, međutim, nalazimo u 2018. godini kada je veštačka inteligencija uspela da uveri dva pojedinca da pripada vrsti Homo Sapiensa. Dakle? Da li je to zaista prvi softver koji je prošao Turingov test?

Zvanično još uvek ne! Prema Wikipediji, test bi trebalo da izgleda ovako:

Onaj koji procenjuje bi bio svestan da je jedan od dva partnera u dijalogu mašina, a sve sudije bi bile odvojene jedni od drugih. Razgovor bi bio ograničen samo na tekstualni kanal. Ako onaj koji procenjuje ne može pouzdano da razlikuje mašinu od čoveka u toku pet minuta, smatra se da je mašina položila test.

Jasno je da je Turing razmišljao samo o razgovorima koji se odvijaju putem računara, ali kada sve rezultate uzmemo u obzir još uvek ne možemo da potvrdimo da je Google Duplex prošao Turingov test.

Bez obzira na to, ni sve činjenice, kao ni Duplex-ova dostignuća nikako ne smemo da osporimo. Verujemo da bi ovaj softver uspeo da vodi razgovor i duže od pet minuta čak i ako ne bi uspeo da odgovori na određena pitanja. Iako je test pomalo besmislen jer Duplex gotovo sigurno može da se nosi sa svim kriterijumima. To, međutim, odmah podiže nekoliko etičkih i pravnih pitanja.

Robo izlazak

Hajde da krenemo sa jednim vrlo jednostavnim pitanjem. Da li ljudi imaju pravo da znaju da vode razgovor sa robotom? Šta je frizerka pomislila kada je saznala ko se nalazio sa druge strane slušalice? Koliko nas bi se osećalo obmanuto?

Postoji jedna poznata i neuobičajena teorija koja tvrdi da roboti koji ne izgledaju kao živa bića, mogu biti cool i ne bi izazivali strah kod ljudi. U obrnutom slučaju postaju izuzetno zastrašujući, nalik zombijima. Smatramo da je Duplex-ov glas toliko profesionalan i nalik ljudskom da upravo spada u vrhunsku kategoriju robota.

Mislimo da je sasvim opravdano zahtevati bar da budete obavešteni da razgovarate sa mašinom. Najbolje bi bilo kada bi robot mogao da vam otkrije da razgovarate sa njim i kada ne bi odabrao da se ponaša kao čovek jer to nije. Ljudi bi mogli da budu razočarani kada otkriju da su prevareni i obmanuti.

Nakon demonstracije Duplex-a, komentari su preplavili Internet. Neki su bili užasnuti, mnogi su prikazali elementarno neznanje, a potom su se javili i pravnici i etolozi koji su razmišljali o najboljem mogućem rešenju. Google je okončao diskusiju tako što je obećao da će, ako proizvod bude spreman, biti uključena i nekakva vrsta „uvoda“ koji će jasno i nedvosmisleno da obavesti drugu stranu kakvu vrstu komunikacije može da očekuje.

Ali ovo rešava samo manji deo problema. Moramo da se suočimo sa činjenicom da je tehnologija dostigla tačku u kojoj roboti mogu da govore kao ljudi, a mi ne možemo da pronađemo jasnu razliku. Google je obećao da će u sistem biti uključeno i obaveštenje, ali šta ako drugi to ne učine?

To je problem o kom nismo mnogo razmišljali, ali nakon Google-ovog poslednjeg projekta bismo možda trebali da razmislimo i o tome. Šta ako algoritam poput ovog počne da glumi lekara, premijera, vašeg kolegu ili vašu majku? Sistem je poprilično spreman i samo se čeka trenutak da postane deo naše svakodnevice. Ako već to odavno nije postao, ali ga mi ne prepoznajemo…

Apple Inc. (AAPL)

Da li ste pročitali ovo?

To je apsurdno. Neki ljudi jednostavno ne razumeju našu kompaniju. Čvrsto verujem da će sve pre ili kasnije doći na svoje mesto, dok god su korisnici zadovoljni. Nismo usmereni na zaradu, već na dugoročan razvoj.

To je apsurdno. Neki ljudi jednostavno ne razumeju našu kompaniju. Čvrsto verujem da će sve pre ili kasnije doći na svoje mesto, dok god su korisnici... - Klikni ovde!