Anii app-urilor nudificatoare trec de moderarea Google și Apple

Potrivit theregister.com, un nou studiu arată că Apple și Google au câștigat milioane de dolari din aplicații ce permit utilizatorilor să dezvăluie hainele altor persoane, în ciuda faptului că ambele companii susțin că interzic astfel de software-uri în magazinele lor. Cercetătorii de la Tech Transparency Project au identificat 55 de aplicații în Google Play și 47 în App Store-ul Apple.

👉 Descărcări masive și venituri semnificative generate de aplicații nudificatoare

În total, aceste aplicații au fost descărcate de 705 milioane de ori și au generat 117 milioane de dolari în venituri. Grupul și-a publicat cercetarea marți, în urma indignării globale cauzate de utilizarea de către utilizatori a botului AI al lui Elon Musk, Grok, pentru a dezvălui hainele oamenilor. Autoritățile din Marea Britanie au luat în considerare interzicerea aplicației. „Grok este cu adevărat vârful aisbergului”, a declarat Katie Paul, director al Tech Transparency Project, pentru The Register. „Postările erau vizibile pe X, dar chiar și conținutul mai explicit poate fi generat de unele dintre aceste alte aplicații, ceea ce ne-a adus în această situație.”

În răspuns la cererea de informații a The Register, Google a afirmat că, deși investigația este în curs, a eliminat mai multe aplicații. „Când ne sunt raportate încălcări ale politicilor noastre, investigăm și luăm măsuri adecvate”, a spus un purtător de cuvânt Google într-un e-mail. „Majoritatea aplicațiilor menționate în acest raport au fost suspendate din Google Play pentru încălcări ale politicilor noastre.” Apple nu a răspuns la un e-mail din partea The Register pentru comentarii.

👉 Probleme legate de promovarea și moderarea aplicațiilor în magazinele Google și Apple

Conform investigației, Apple a sponsorizat și reclame, o altă sursă de venit, atunci când utilizatorii căutau articole care ar fi trebuit să fie interzise conform politicii sale, a spus Paul. „Când cauți cuvântul 'nudify' în App Store, conform politicii lor, nu ar trebui să apară nimic, dar nu doar că Grok apare primul, Apple a avut o reclamă sponsorizată pentru o aplicație nudificatoare”, a spus ea. „Acea aplicație este una dintre cele care au fost eliminate după ce am contactat. Nu doar că aplicația era pe App Store, dar Apple profita și de pe urma reclamelor pentru a o promova când oamenii căutau cuvântul 'nudify'.”

Tech Transparency Project a testat versiunile gratuite ale aplicațiilor folosind un model generat AI îmbrăcat, apoi a solicitat aplicațiilor să o redenească complet sau parțial nudă. Cu aplicațiile de schimbare a feței, TTP a testat dacă aplicația ar suprapune fața unei femei complet îmbrăcate pe o imagine a unei femei nude. În ambele cazuri, produsul a fost reușit, demonstrând cât de ușor este să creezi imagini intime non-consensuale. Aplicațiile erau toate disponibile până la 21 ianuarie. Cu toate acestea, Apple a eliminat 25 dintre aceste aplicații după ce cercetătorii le-au contactat. Google a suspendat mai multe aplicații și a spus că va desfășura o recenzie a aplicațiilor din magazinul său, a spus Paul.

Acest ultim raport al Tech Transparency Project vine la aproximativ o lună după ce a constatat că ambele piețe de aplicații ale companiilor vând aplicații dezvoltate de entități sancționate de guvernul SUA din cauza legăturilor lor cu războiul din Ucraina și abuzurile drepturilor omului în China. În acel caz, organizația nonprofit a găsit 52 de aplicații în App Store-ul Apple cu legături directe cu companii rusești, chinezești și alte entități supuse sancțiunilor economice impuse de Ministerul american al Finanțelor. Toate aplicațiile listau un dezvoltator, vânzător, deținător de copyright sau alte informații pe pagina lor de App Store care se potriveau cu entitățile sancționate de SUA. Acea investigație anterioară a constatat că Google Play Store avea o problemă similară, cu 18 aplicații conectate la organizații sancționate de SUA, aproximativ o treime din numărul identificat în App Store-ul Apple.

Paul a spus că, după ce acea investigație a fost publicată în decembrie, ambele companii au retras aplicațiile și au postat anunțuri pentru ofițeri de conformitate care să revizuiască aplicațiile în privința sancțiunilor. Ceea ce o îngrijorează pe Paul este ceea ce înseamnă pentru consumatori dacă Google și Apple sunt dispuse să încalce cu nesimțire legile care îi pot aduce în dificultăți economice cu guvernele lor de origine. „Așa au fost sancțiunile. Aceasta a fost o zonă în care există consecințe legale. Îți poți imagina celelalte aplicații dăunătoare care există acolo unde nu există consecințe legale”, a spus Paul. „Cu aplicațiile nudificatoare, am găsit multe probleme îngrijorătoare în ambele magazine de aplicații. Ceea ce este cu adevărat alarmant este că unele dintre aceste aplicații au fost promovate pentru copii cu vârste de 9 ani și peste. Acestea nu sunt doar promovate pentru adulți, ci sunt, de asemenea, adresate copiilor.”

O altă îngrijorare este legată de legile privind confidențialitatea datelor în China, care obligă companiile să transmită date guvernului. „Când vine vorba de aplicațiile nudificatoare, asta înseamnă că aceste imagini non-consensuale ale cetățenilor americani ar ajunge în mâinile guvernului chinez”, a spus Paul. „Deci, aceasta reprezintă o încălcare majoră a intimității, pe lângă faptul că reprezintă un risc pentru securitatea națională, în special dacă există figuri politice care au imagini nud non-consensuale create despre ele și apoi acestea ajung în mâinile guvernului chinez.”

Paul a spus că defalcarea pare să progreseze între politică și moderare. Deși politicile afirmă în mod clar că aceste aplicații nu sunt permise, în practică ele proliferază. „Trăim într-o lume în care nu ne putem deconecta de la această tehnologie”, a declarat ea pentru The Register. „Aceste companii se promovează singure pentru cât de sigure și de încredere sunt magazinele lor de aplicații. Dacă intri în paginile lor de dezvoltare a aplicațiilor, afirmă că au procese de revizuire foarte stricte – inclusiv screeningul pentru sancțiuni – dar nu vedem că acestea sunt aplicate.”