Bivši šef Googlea: AI se može hakirati da nauči kako ubijati

Bivši izvršni direktor Googlea, Eric Schmidt, uputio je oštro upozorenje na opasnosti koje nosi vještačka inteligencija, ističući njenu ranjivost na hakiranje. Schmidt, koji je vodio Google od 2001. do 2011. godine, na Sifted Summitu govorio je o "lošim stvarima koje AI može uraditi", naglasivši da prijetnje nisu samo teoretske, piše CNBC.

"Uvijek postoji opasnost"

Na pitanje da li je vještačka inteligencija destruktivnija od nuklearnog oružja, Schmidt je potvrdio da rizik od širenja i zloupotrebe svakako postoji.

"Postoji li mogućnost problema širenja kada je riječ o vještačkoj inteligenciji? Apsolutno", rekao je, pojašnjavajući da to uključuje opasnost da tehnologija dospije u ruke zlonamjernih aktera.

"Postoje dokazi da se modeli, bilo zatvoreni ili otvoreni, mogu hakirati kako bi se uklonili njihovi sigurnosni mehanizmi. Dakle, dok uče, oni upijaju mnogo informacija. Loš primjer bi bio da nauče kako ubiti nekoga", izjavio je Schmidt.

Objasnio je da se velike tehnološke kompanije trude spriječiti takve scenarije, ali da opasnost uvijek postoji. "Sve velike kompanije sprječavaju te modele da odgovaraju na takva pitanja. To je dobra odluka. Svi to rade, rade to dobro i iz pravih razloga. Ipak, postoje dokazi da se te zaštite mogu zaobići obrnutim inžinjeringom, i postoji mnogo drugih sličnih primjera."

Među metodama hakiranja AI-ja izdvajaju se „ubrizgavanje naredbi“ (prompt injection) i takozvani „jailbreaking“. Prva metoda podrazumijeva skrivanje zlonamjernih uputa kako bi se AI prevario da otkrije privatne podatke, dok druga metoda navodi AI da ignoriše sigurnosna pravila i generiše opasan sadržaj.

Primjer toga je alter-ego ChatGPT-a nazvan DAN (Do Anything Now), koji je 2023. godine zaobilazio sigurnosne protokole i davao odgovore o ilegalnim aktivnostima.

"AI je podcijenjena tehnologija"

Uprkos mračnim upozorenjima, Schmidt je pokazao i optimizam, tvrdeći da je vještačka inteligencija zapravo podcijenjena tehnologija.

"Napisao sam dvije knjige sa Henryjem Kissingerom o tome prije njegove smrti, i došli smo do zaključka da je dolazak vanzemaljske inteligencije, koja nije u potpunosti kao mi, ali je donekle pod našom kontrolom, ogroman događaj za čovječanstvo", rekao je.

Brzina kojom je ChatGPT dostigao 100 miliona korisnika za samo dva mjeseca, prema Schmidtu, pokazuje moć ove tehnologije. "Zato mislim da je podcijenjena, a ne precijenjena, i radujem se što ću biti u pravu za pet ili deset godina", dodao je.

Osvrnuo se i na strahove da se radi o „AI balonu“, sličnom onome koji je pukao početkom 2000-ih u dot-com eri. Schmidt ne vjeruje da će se istorija ponoviti. "Znam da ljudi koji ulažu teško zarađen novac vjeruju da je ekonomski povrat na duge staze ogroman. Zašto bi inače preuzeli rizik?" zaključio je.