Brojni izazovi i rizici, kakva je digitalna (ne)sigurnost u eri AI

Edukativni kamp, čiji je cilj jačanje digitalne otpornosti i pismenosti, s posebnim fokusom na izazove i rizike povezane s razvojem i primjenom umjetne inteligencije (AI), održava se na Vlašiću. Kroz interaktivne radionice i diskusije, učesnici imaju priliku da se upoznaju sa ključnim temama kao što su uloga umjetne inteligencije u online radikalizaciji i ekstremizmu, razumijevanje načina na koji sadržaj generiran umjetnom inteligencijom oblikuje dezinformacije, kako deepfake služi kao alat propagande, te koja je uloga društvenih mreža u širenju ekstremističkih narativa.

Najvrednija valuta

Radionice su namijenjene predstavnicima institucija, organizacija civilnog društva, medija, akademske zajednice, kao i mladima koji djeluju u digitalnom okruženju.

- Naučimo da vidimo šta nam to sve donosi umjetna inteligencija i kako da se zaštitimo u toj digitalnoj džungli, poručila je u uvodnom izlaganju u hotelu Pahuljica Lejla Sarač, menadžerica projekta #AlKoristiSPaznjom, kojeg finansira Ambasada Kraljevine Nizozemske, a implementira nevladina organizacija Ja bih u EU.

O tome kako Al funkcioniše i oblikuje digitalni svijet, od algoritama do svakodnevne primjene, te utjecaju na digitalni prostor, ali i kako algoritmi pojačavaju ekstremističke narative i informacione manipulacije, govorili su Branko Petrović i Ozrenko Đurić, stručnjaci za cyber sigurnost. Petrović je istakao da se digitalni svijet drastično promijenio razvojem umjetne inteligencije, te kao ključnu poruku istakao da su podaci postali najvrednija valuta današnjice.

- A AI bez podataka ne može funkcionisati, naglasio je te pojasnio da, zapravo, sve što radimo na internetu, počevši od pretraga, preko društvenih mreža i korištenja aplikacija do biometrije (otključavanje telefona licem), predstavlja razmjenu ličnih podataka za usluge koje dobijamo “besplatno”. Uz napomenu kako AI radi kao sistem koji predviđa na osnovu ogromnih količina podataka, Petrović je istakao da AI koristi prethodne informacije da bi davao preciznije odgovore i prilagođavao se korisniku.

AI, kako je istakao, uči iz podataka i pravi predikcije, što ga čini izuzetno moćnim, ali ne i uvijek pouzdanim, zbog čega takve alate treba koristiti oprezno.

Prilagođavanje korisniku

Đurić je upozorio na to da algoritmi društvenih mreža i AI sistemi prate naše ponašanje (klikove, zadržavanje na videu, lajkove).

- Algoritam prepoznaje samo našu interakciju, ali ne i to da li je ona pozitivna ili negativna, kazao je Đurić, te pojasnio da se na osnovu toga kreira sadržaj koji nam se prikazuje. Govoreći o pojavama poput radikalizacije, deepfake tehnologije i AI ulizivanja, istakao je da sistemi postaju previše prilagođeni korisniku i mogu ga dodatno učvrstiti u njegovim stavovima ili emocijama.

AI, kako je to zaključio Petrović, treba koristiti oprezno: “Kada prelazite ulicu, pogledate lijevo, desno, pa pređete. Tako koristite i AI”.