Visuresošā sejas atpazīšana ir nopietns drauds cilvēku privātumam. Ideja, ka dažādi uzņēmumi ievāc cilvēku publiskotos fotoattēlus, lai apmācītu algoritmus tālākai komerciālai pārdošanai, ir satraucoša. Ikviens var iegādāties šos rīkus, nofotografēt svešinieku un dažu sekunžu laikā uzzināt, kas viņš ir. Bet pētnieki ir izdomājuši gudru veidu, kā palīdzēt apkarot šo problēmu.
Risinājums ir rīks ar nosaukumu Fawkes, ko izveidojuši Čikāgas universitātes SAND laboratorijas zinātnieki. Fawkes izmanto mākslīgo intelektu, lai smalki un gandrīz nemanāmi pārveidotu fotogrāfijas ar nodomu apmānīt sejas atpazīšanas sistēmas.
Kā tas darbojas?
Programmatūras darbības veids ir nedaudz sarežģīts. Fotoattēlu mainīšana caur Fawkes nepadara jūs neredzamu sejas atpazīšanas sistēmai. Tā vietā programmatūra veic smalkas izmaiņas jūsu fotoattēlos, lai nākotnē jebkurš algoritms, kas skenē šos attēlus, jūs redzētu kā citu cilvēku. Būtībā Fawkes izmantošana uz dažādiem fotoattēliem ir kā neredzamas maskas uzlikšana saviem selfijiem.
Zinātnieki šo procesu sauc par “maskēšanu”. Tā mērķis ir sabojāt resursus, kas nepieciešami, lai sejas atpazīšanas sistēmas funkcionētu – datu bāzes ar sejām, kas ņemtas no sociālajiem tīkliem. Piemēram, sejas atpazīšanas firma Clearview AI apgalvo, ka ir savākusi apmēram trīs miljardus seju attēlus no tādām vietnēm kā Facebook, YouTube un Venmo. Bet, ja tiešsaistē publicētie fotoattēli ir tikuši izlaisti caur Fawkes, sejas, kuras algoritms zina, patiesībā nebūs īstās.
Pēc Čikāgas universitātes komandas domām, Fawkes ir simtprocentīgi saderīgs ar mūsdienīgiem sejas atpazīšanas pakalpojumiem no Microsoft (Azure Face), Amazon (Rekognition) un Face ++, ko nodrošina Ķīnas tehnoloģiju gigants Megvii.
“Mēs būtībā izmantojam maskētos fotoattēlus kā Trojas zirgu, lai liktu sejas atpazīšanas modeļiem iemācīties nepareizu informāciju par to, kas liek jums izskatīties pēc sevis, nevis pēc kāda cita,” skaidro Bens Džao, Čikāgas universitātes datorzinātņu profesors. “Kad maskēšana ir notikusi, jūs esat nepārtraukti aizsargāts neatkarīgi no tā, kurp dodaties vai kur esat redzēts.”
‘Fawkes’ bezmaksas programmatūra
Darba grupa šī gada sākumā publicēja pētījumu par šo algoritmu. Bet pagājušā mēneša beigās tika izlaista Fawkes bezmaksas programmatūra operētājsistēmām Windows un Mac. Pētnieki apgalvo, ka līdz šim tā ir lejupielādēta vairāk nekā 100 000 reizes.
Fawkes dizains ir mazliet nepilnīgs, bet pietiekami viegli lietojams. Katra attēla apstrāde prasa dažas minūtes, un tā veiktās izmaiņas lielākoties nav pamanāmas. Šīs nedēļas sākumā The New York Times publicēja stāstu par Fawkes, kurā tika atzīmēts, ka maskēšanas efekts ir diezgan acīmredzams. Bieži tika veiktas tādas krasas pārmaiņas kā, piemēram, ūsu pievienošana sieviešu sejām. Bet Fawkes komanda apgalvo, ka atjauninātais algoritms ir daudz smalkāks un precīzāks.
Vai jaunā programmatūra ir risinājums tiešsaistes privātuma jautājumos?
Bet vai Fawkes tiešām ir atslēga visām tiešsaistes privātuma problēmām? Diez vai. Ja jūs nolemjat izmantot Fawkes, lai nākotnē maskētu visus fotoattēlus, ko augšupielādējat sociālajos medijos, jūs noteikti būsit mazākumā.
Otrkārt, daudzas firmas, kas pārdod sejas atpazīšanas algoritmus, jau sen ir izveidojušas datu bāzes, un jūs nevarat šo informāciju iegūt atpakaļ. Clearview izpilddirektors Hoan Ton-That stāstīja laikrakstam Times: “Internetā ir miljardiem nemodificētu fotoattēlu, visi ar dažādiem domēna vārdiem. Praksē gandrīz noteikti ir par vēlu pilnveidot tādu tehnoloģiju kā Fawkes un ieviest to plašā mērogā.”
Protams, Fawkes komanda nepiekrīt šim vērtējumam. Viņi atzīmē, ka, lai arī tādi uzņēmumi kā Clearview apgalvo, ka viņiem ir miljardiem fotoattēlu, tas nav nekas īpašs, ja padomā, ka tiem vajadzētu identificēt simtiem miljonu lietotāju. “Iespējams, ka Clearview ir pieejams tikai ļoti neliels skaits publiski pieejamu fotoattēlu,” saka Zhao. “Un, ja cilvēki nākotnē tiešsaistē ievietos vairāk maskētu fotoattēlu, agrāk vai vēlāk maskēto attēlu skaits pārsniegs nemaskēto fotoattēlu skaitu,” viņš piebilst.
Pārmaiņas plašā mērogā
Tomēr Fawkes komanda atzīst, ka, lai viņu programmatūra radītu reālas pārmaiņas, tā ir jāizmanto plašākā mērogā. Drošības apsvērumu dēļ viņi neplāno izveidot tīmekļa vai mobilo lietotni, taču cer, ka tādi uzņēmumi kā Facebook nākotnē varētu integrēt līdzīgas tehnoloģijas savā platformā.
Šīs tehnoloģijas integrēšana būtu šo uzņēmumu interesēs, saka Zhao. Galu galā uzņēmumi, piemēram, Facebook, nevēlas, lai cilvēki pārtrauktu fotoattēlu kopīgošanu. Šie uzņēmumi joprojām varētu savākt vajadzīgos datus no attēliem (tādām funkcijām kā fotoattēlu marķēšana (tag)), pirms tie tiktu maskēti publiskajā tīklā. Kaut arī šīs tehnoloģijas integrēšana pašreizējiem lietotājiem varētu radīt tikai nelielu efektu, tā tomēr varētu palīdzēt pārliecināt nākamās, uz privātumu vērstās paaudzes.