Džordž Orvel je ozbiljno podbacio

piše: Zoran Stanojević

Pre deset godina posetio sam poznatu svetsku tehnološku kompaniju koja je odvojila dan da novinarima predstavi najnovija dostignuća i stremljenja. Ono što je na mene ostavilo najjači utisak bio je softver koji prati lica u publici, analizira grimase i govorniku odnosno predavaču prenosi da li je publici dosadno ili ga prate sa zanimanjem. Sećam se da sam pomislio koliko je to dobro i korisno i kako će vrlo brzo biti u masovnoj primeni.

Ispostavilo se da je razvoj softvera za prepoznavanje lica krenuo u drugom pravcu. Umesto da popravi kvalitet predavanja, uglavnom se koristi za bezbednosno praćenje i špijuniranje. Najdalje je otišla Kina, koja prikuplja podatke o ponašanju građana na javnim mestima i daje im negativne poene ako krše zakon i pristojnost. Ko ih skupi previše gubi razna prava, uključujući mogućnost da putuje vozom ili avionom. Kineske vlasti uverene su da se građani tako stimulišu na propisno ponašanje.

Evropska unija uporno ponavlja da ne deli takve vrednosti. Pre nekoliko dana usvojeno je pravilo da se u narednih najmanje tri, a najviše pet godina softver za prepoznavanje lica ne sme koristiti na javnim mestima. Razlog su moguće zloupotrebe i ugrožavanje građanskih prava i sloboda, ali i sumnje da softver teže razaznaje žene, crnce i azijate te da stoga može pogrešnoj osobi da pripiše neko ilegalno ponašanje.

I neki gradovi u SAD zabranili su korišćenje ove tehnologije, a predviđa se da bi to moglo biti jedno od ključnih pitanja u predsedničkoj kampanji. Jer su mogućnosti primene fantastične.

Svi ćemo se složiti da je veoma neprijatno ako znate da vas na nekom javnom mestu, recimo na stadionu ili u šoping molu, u svakom trenutku neko skenira i identifikuje, a onda te informacije prosleđuje policiji ili okolnim prodavnicama. Policija onda zna gde je neko koga traže ili ne plaća kazne koje mu je odredio sud, a prodavci koga da uvuku u radnju jer brzo poteže karticu. Ne bune se, dakle, samo kriminalci, već i običan svet.

S druge strane, kada vam neko na takvom javnom mestu, pokrivenom kamerama, odžepari novčanik ili telefon, odmah ćete tražiti snimke kako biste pronašli lopova. Rado biste tada iskoristili softver koji bi vam otkrio ne samo lik tog kradljivca, već i njegovo ime i dosije u policiji ako ga ima. Pomni pratioci tehnologije kažu da bi već danas policija mogla biti opremljena naočarima vezanim na bazu u stanici, pomoću kojih bi u prolaznicima prepoznavali one na koje treba obratiti posebnu pažnju. Uz već pomenutu rezervu da softver ume da pogreši, što stvara priličnu nelagodu.

Mnogi se slažu da je kompjutersko prepoznavanje lica ozbiljan udar na dostojanstvo, budući da se analiza obavlja bez selekcije, na svakome od nas. S druge strane, kompjuter bi mogao da izdvoji sumnjivca iz mase i ubrza pronalaženje i hapšenje.

To je ozbiljna moralna klackalica, a nespokoj budi saznanje da će na izvestan rok biti zabranjena upotreba, ali ne i istraživanja. A to znači da smo na jedan dramatičan slučaj daleko od masovnog pristanka i traženja da se osmatranje omogući.