Un cercetător DeepMind a demisionat din cauza contractului cu armata: 'Nu puteam rămâne la Google cu buna conștiință'
Un cercetător de la Google DeepMind a declarat că a demisionat din cauza colaborării companiei cu Ministerul Apărării, adăugându-se astfel la reacțiile interne împotriva parteneriatului militar al gigantului tehnologic. Alex Turner, un cercetător care a lucrat mai bine de doi ani la siguranța AI la Google DeepMind, și-a părăsit funcția în iunie, a declarat el pentru businessinsider.com.
👉 Opoziția lui Turner față de acordul dintre Google și Pentagon
Turner a spus că a luat această decizie după ce Google a semnat un acord prin care permite Pentagonului să utilizeze tehnologia sa AI pentru operațiuni clasificate. Pentagonul a confirmat la începutul lunii mai că a semnat acordul cu Google și cu un grup de alte companii, inclusiv Microsoft, Amazon și OpenAI, pentru "utilizare operativă legală". "Când Google a semnat acordul, conștiința mea a spus pur și simplu 'nu'", a declarat el pentru businessinsider.com.
👉 Reacțiile interne și preocupările privind utilizarea AI în scopuri militare
În mai, după ce Pentagonul a anunțat acordul său cu Google și alte laboratoare, un purtător de cuvânt al Google a declarat: "Rămânem angajați în consensul din sectorul privat și public că AI nu ar trebui să fie folosită pentru supravegherea în masă internă sau arme autonome fără supraveghere umană adecvată." Acordul Google cu Pentagonul a generat reacții adverse în rândul angajaților săi. În aprilie, aproximativ 600 din cei aproape 195.000 de angajați ai Google au semnat o petiție prin care cereau companiei să nu încheie acorduri care implică muncă clasificată.
O astfel de acord restricționează cât de multă supraveghere are Google asupra modului în care este utilizată tehnologia sa AI. Turner a menționat că a început să se gândească să părăsească Google în februarie, când a realizat că este posibil ca Google să semneze acordul cu Pentagonul. "Cred că aș fi rămas câteva luni în plus dacă nu ar fi semnat acordul. Când Google a semnat, pur și simplu nu mai puteam lucra. Creierul meu a spus 'nu'", a scris el într-un post pe blog publicat miercuri.
Turner a declarat pentru businessinsider.com că nu are încă un alt loc de muncă asigurat. El a spus că la începutul acestui an a propus un cadru pentru AI militar pe care spera că Google ar putea să-l adopte, inclusiv prevederi pentru a asigura controlul uman asupra sistemelor de țintire AI. Un purtător de cuvânt al Google a declarat că compania a fost deschisă la ideile lui Turner. La începutul anului 2025, Google a actualizat principiile sale privind AI pentru a elimina angajamentele că nu va urmări utilizarea AI pentru arme sau supraveghere în masă.
CEO-ul Google DeepMind, Demis Hassabis, a coautorat un post pe blog la acea vreme, anunțând schimbările. Decizia a generat reacții adverse din partea unor angajați. Într-un mesaj intern către colegii săi, trimis înainte de a pleca, Turner a menționat că există o deconectare între comentariile lui Hassabis într-o întâlnire cu angajații, conform cărora principiile sale nu s-au schimbat și decizia de a elimina angajamentele. "Dacă nu pot avea încredere în această afirmație ușor verificabilă, cum pot să am liniște cu privire la supravegherea atentă pe care o spune că ne protejează?" a scris Turner în mesajul său, care a fost văzut de businessinsider.com.
Turner a afirmat că a atras atenția executivilor de la Google mai devreme în acest an. El a declarat că a luat prânzul cu omul de știință șef al Google, Jeff Dean, pentru a discuta despre preocupările sale. De asemenea, a ajutat la organizarea unei scrisori din partea angajaților adresată lui Dean, care a arătat public sprijin pentru Anthropic în timpul disputei sale cu Casa Albă privind utilizarea militară a AI. Scrisoarea a cerut Google să stabilească limite clare în orice acorduri cu Pentagonul, cum ar fi interzicerea utilizării Gemini pentru pilotarea unor arme autonome fără supraveghere umană.
Turner a spus că a trimis propunerea pentru cadrul său de AI militar lui Hassabis la începutul acestui an și i-a spus să o evalueze cu două persoane senior care lucrează în politici la Google. După câteva discuții despre pașii următori, Turner a spus că a încetat să mai primească răspunsuri. La scurt timp după aceea, Ministerul Apărării a confirmat că a semnat un acord. "În acel moment, nu am putut rămâne la Google cu bună conștiință, așa că am plecat," a scris Turner în postarea sa pe blog.
Turner a declarat că lucrează la proiecte de siguranță și securitate AI independente, în timp ce își analizează următoarele mișcări. "Când un angajat părăsește un laborator de top în AI, de obicei se îndreaptă spre altul," a scris el. "De obicei, câștigă un bonus uriaș în felul acesta. Asta nu este ce am făcut: nu am flirtrat cu laboratoare concurente." "Sunt șomer în acest moment," a adăugat el.