AI modeli spremni su otkriti pacijente na čijim su podacima obučeni

Modeli umjetne inteligencije koji služe za dijagnosticiranje medicinskih stanja imaju problem: spremni su i voljni identificirati pacijente čiji su podaci korišteni za njihovu obuku.

Njemački istraživači su u časopisu Nature objavili rad u kojem tvrde kako u diskriminativni modeli umjetne inteligencije – oni koji se koriste za klasifikaciju podataka i predviđanje novih unosa na temelju njihovih skupova za obuku – posebno osjetljivi na napade zaključivanja o članstvu (MIA), koji ispituju modele u pokušaju utvrđivanja je li određena podatkovna točka uključena u njihove skupove za obuku.

To znači kako bi svaki pacijent čiji su podaci korišteni za edukaciju bota mogao biti izložen, što bi dovelo do curenja detalja o njihovoj medicinskoj povijesti i dijagnozama. 

U analizi sedam skupova podataka medicinske umjetne inteligencije koji se sastoje od slika, EKG zapisa i općih elektroničkih zdravstvenih kartona, tim je utvrdio kako je bilo moguće identificirati pojedinačne pacijente s “gotovo savršenim uspjehom”. Temeljem tih nalaza su zaključili kako standardi izvještavanja za revizije privatnosti umjetne inteligencije moraju biti promijenjeni.

Pokazalo se također kako je pacijente koji su nedovoljno zastupljeni u podacima o medicinskoj obuci umjetne inteligencije lakše identificirati od onih čiji se podaci ne ističu. Nedovoljno zastupljene skupine mogu uključivati ​​one u nizu osjetljivih kategorija: rasa, status osiguranja, spol, protokol koji se koristi za provođenje medicinskog snimanja i određeni statusi bolesti mogu olakšati identifikaciju pojedinaca.

Drugim riječima, otkrivanje podataka o obuci umjetne inteligencije u zdravstvu moglo bi biti korišteno za identifikaciju osoba s osjetljivim zdravstvenim stanjima, odavanje tajni koje možda ne žele javno objaviti ili na drugi način poticanje diskriminacije. Što je skup podataka veći, lakše je otkriti zapise.

Napad na medicinski model umjetne inteligencije pretpostavlja kako napadač već ima barem neke medicinske podatke koji pripadaju ljudima koje želi identificirati. No, napadač s djelomičnim pristupom i dalje može imati uspjeha.

Istraživači daju nekoliko preporuka kako zaštititi podatke. Primjerice, upućuju na korištenje diferencijalnih okvira za privatnost koji su osmišljeni kako bi matematički jamčili anonimnost podataka o obuci, piše mreza.bug.hr.