Doba veštački inteligentnog Velikog Brata
„Spoljni svet je, čak i kroz zatvoren prozor, izgledao hladno. Dole, na ulici, mali kovitlaci vetra nosili su prašinu i iscepan papir u spiralama; mada je sijalo sunce i nebo bilo vedro, sve se činilo bezbojno, sem plakata koji su bili svuda izlepljeni. Lice sa crnim brkovima zurilo je sa svakog ugla. Jedno se nalazilo i na fasadi kuće preko puta. VELIKI BRAT TE POSMATRA, pisalo je, a njegove tamne oči zurile su u dubinu Vinstonovih.“
Naravno u pitanju je odlomak iz romana Džordža Orvela „1984“ koji je izdat još krajem 40-tih prošlog veka. Govori o zatvorenim političkim sistemima, gde su ljudi bili potpuno kontrolisani, takođe i mediji, gde su umetnost i kultura bili neprijatelji ljudi a glavni slogan „Neznanje je moć“. U knjizi smo nekako sa strahom gledali na to što su svi ljudi posmatrani i o svakom se sve zna. Ali u 21. veku ta ideja se polako pretvara u našu stvarnost, hteli mi to ili ne.
Istorijski, razvoj video nadzora je, verovali ili ne, počeo još 1942. godine u Nemačkoj. Prvu komercijalnu primenu doživeo je 1949. u SAD-u. Da se razumemo, to je bilo vrlo primitivna tehnologija koja je dozvoljavala praćenje uglavnom jedne kamere na jednom monitoru u realnom vremenu. Bez snimanja, pošto tada nije bilo tehničkih mogućnosti. Razvojem video kaseta, početkom 70-tih prošlog veka dolazi do revolucije u sistemima video nadzora, pošto se u sisteme ubacuju snimači. Tokom 90-tih počinje era personalnih računara. U to vreme dolazi do druge revolucije u sistemima video nadzora pošto se uvode Digitalni Video Rekorderi (ili skraćeno DVR). DVR je snimač koji u sebi ima hard disk. Na DVR se povezuju direktno sve kamere i snimci kamera se skladište na hard disk. Ovakvi sistemi su se vrlo brzo odomaćili i postali sastavni deo opreme mnogih kompanija. Vrlo brzo je video nadzor uvršten i u zakone vezane za tehničko obezbeđenje. Dugo su ovi sistemi imali samo jednu namenu, nadzor odgovarajućeg objekta, i skretanje pažnje potencijalnim prestupnicima da je objekat pod nadzorom. Sve kamere su bile analogne i povezivale su se putem koaksijalnog kabla direktno na snimač. To je ujedno i najveća mana ovakvih „legacy“ sistema. Ne postoji mogućnost udaljenog praćenja. Nema centralizovanog rešenja za više objekata. I nema daljinskog održavanja.
Razvojem računarskih mreža, a pre svega povećanjem brzina u računarskim mrežama, „legacy“ CCTV (Closed Circuit TV) sistemi su polako prešli u IP CCTV. Kamere su postale IP kamere a DVR je postao NVR (Network Video Recorder). Sve se povezuje na mrežne svičeve i nije potrebno raditi posebnu infrastrukturu za povezivanje opreme. Moguće je praćenje sa udaljenih mesta, kao i održavanje. IP CCTV prestaje da bude samo oruđe za zaštitu objekata već polako prelazi da bude IT servis koji daje različite podatke sa slike koja se posmatra.
I polako dolazimo do Orvela. Zadnjih nekoliko godina, pogotovo od kad se govori o 5G mrežama IP video nadzor je postao sastavni deo Smart koncept priča. Uvođenjem veštačke inteligencije (AI) i dodatne analitike, video kamera je u stanju da izbaci mnogo više podataka od same slike. Tako da danas postoji niz dodatnih vrednosti kao što su:
- Prepoznavanje lica i tela
- Prepoznavanje objekata
- Prepoznavanje registarskih tablica
- Traffic flow statistika
- Termalne kamere daju informacije o temperaturi
- Brojanje ljudi
Svi ovi podaci se mogu upotrebiti u aplikacijama koje se osmišljavaju u okviru različitih projekata vezanih za Smart City, Secure City ili bilo koji drugi IoT projekat. Najava 5G mreža i povećanje protoka u širokopojasnim mrežama samo je ubrzao razvoj aplikacija koje koriste neku od funkcionalnosti nove generacije IP kamera. Brojne su upotrebe svih ovih funkcionalnosti. Nabrojaću neke od njih:
- Prepoznavanje registarskih tablica, LPR (License Plate Recognition), se najviše koristi kod parkinga i ulaza u objekte, gde u sprezi sa sistemom kontrole pristupa otvara rampu za unapred predefinisane registarske tablice.
- U industriji, termalne kamere se koriste kod postrojenja gde se prati promena temperature nekog dela. Termalne kamere se takođe koriste i kod zaštite perimetra, jer mogu da uoče probijanje perimetra na osnovu toplote tela prekršioca.
- U velikim šoping centrima koriste se kamere koje broje ulaske i izlaske ljudi u određene delove i na osnovu toga se prave statistike gde je najbolje postaviti obaveštenja ili reklame.
Ipak, najkontroverznija od svih je funkcionalnost prepoznavanje lica i tela. Najkontroverznija, jer se i dalje razmatra etičnost prikupljanja ovih podataka i upotreba istih za potrebe povećanja sigurnosti. Pojavom ove vrste analitike ušli smo zapravo u eru velikog brata. Urađeni su algoritmi koji automatski skeniraju lice onoga ko se snima i upoređuje sa podacima iz postojećih baza. Podaci koje ti algoritmi koriste su vrlo detaljni. Neki od njih su: neravnine između obrva, razmak između jagodičnih kostiju, položaj ivice usana, položaj očiju, veličina i širina nosa, veličina i širina brade itd. Na osnovu svih ovih podataka vrlo precizno se može odrediti identitet osobe, jer sve navedene stvari su takođe i neka vrsta otiska prsta svake osobe.
Moguće primene su brojne. Zamislite da više nema identifikacionih dokumenata. Želite da podignete novac na bankomatu, samo priđete kameri, utvrdi se vaš identitet i vi podignete novac. U prodavnici samo pogledate u kameru i prođete, novac se automatski skine sa vašeg računa. Prilikom ukrcavanja na avion samo pogledate u kameru i prođete. Zvuči kao utopija ili distopija?
Trenutno se ipak ova tehnologija najviše koristi za potrebe policije. U Velikoj Britaniji, tačnije u Velsu, sistem postoji već četiri godine i mahom se koristi za potrebe velikih skupova i koncerata. Na ovakvim skupovima se postavljaju mobilne kamere koje prate sve posetioce, upoređuju sa bazom podataka od preko 12,5 miliona skeniranih lica i traže potencijalne prestupnike. U SAD-u policija Orlanda je jedna od prvih koja je počela sa testiranjem ove tehnologije. U saradnji sa Amazonom uradili su PoC koji bi uskoro trebalo da se završi. U Maleziji, svi policajci imaju „body“ kamere koje imaju ugrađenu funkciju prepoznavanja lica. Na osnovu ovoga policajci utvrđuju pravi identitet zaustavljenog vozača.
Na kraju, dolazimo i do najvećeg konzumenta ove tehnologije, a to je Kina. U Kini se ova tehnologija najbrže širi, a kineska vlada je smatra državnim projektom. Od ukupnog svetskog budžeta za video nadzor u Kini se potroši 47% godišnje. Svi veliki gradovi u Kini su pokriveni kamerama sa prepoznavanjem lica, gde se svako identifikuje u roku od tri sekunde. Fokus je naravno na suzbijanju kriminala, ali… Najekstremniji slučaj je ipak u provinciji Xinjiang, gde je kineska Vlada postavila čitavu mrežu kamera koje će pratiti pripadnike Uighur manjinske populacije. Policija je 24 sata obaveštena o kretanju svakog pripadnika ove grupe i u slučaju izlaska iz „sigurne zone“ odmah izlaze u patrolu. Na ovaj način celokupna grupa ljudi se nalazi u nekoj vrsti „otvorenog“ zatvora. Imaju slobodu kretanja ali samo u okvirima koje je propisala policija kroz ovaj sistem video nadzora.
Ovaj i slični primeri bude kod ljudi revolt protiv tehnologije koja ugrožava ljudske slobode i zagarantovana prava. U Velikoj Britaniji postoji organizacija „Big Brother Watch“, sastavljena od pravnika i advokata koji konstantno prate zloupotrebe u korišćenju tehnologije protiv ljudi. Aktivni su čak i u britanskom parlamentu. Rade nezavisne istrage i edukuju građane o njihovim pravima. U SAD-u je najaktivnija organizacija „American Civil Liberties Union“ (ACLU), koja sa postojanjem od skoro 100 godina, pomaže Amerikancima da odbrane svoja Ustavom zagarantovana prava. Zadnjih godina posebno su aktivni u zaštiti građana od pretnji u vidu ugrožavanja privatnosti. Uspeli su uz pomoć lokalnih organa da zabrane upotrebu sistema za prepoznavanje lica u nekoliko gradova kao što su: San Francisco, Somerville i Oakland.
Uzimajući sve u obzir sistemi za prepoznavanje lica mogu biti vrlo korisni, ali mogu biti i predmet zloupotrebe. Da bi LFR (Live Facial Recognition) bio prihvaćen kao nešto normalno potrebno je da se naprave odgovarajući uslovi:
- Ukupan benefit u javnoj sigurnosti mora biti veći od nepoverenja u tehniku koji se može javiti
- Moralo bi da se osigura da se upotrebom tehnologije neće generisati rasna, polna ili bilo kakva druga diskriminacija
Ovi uslovi moraju biti merljivi i kao takvi moraju da se uvrste u odgovarajuće pravne i tehničke regulative.
Čini se da je tehnologija, kao što to često biva, daleko ispred naše sposobnosti da definišemo njenu etičku upotrebu.
Pitanje je: da li treba prelaziti određenu granicu?