Cum a reușit o femeie să își păcălească banca și familia cu o clonă creată de inteligența artificială
Data actualizării: Data publicării:
Roboții de chat, generatoarele de imagini și alte programe asemănătoare au șters tot mai mult linia de separare dintre inteligența artificială și cea umană. Foto: Profimedia Images
Vestea bună despre clonele create cu ajutorul inteligenței artificiale este că ele nu își pierd niciodată vocea, au întotdeauna o postură perfectă și nici măcar o tornadă nu ar putea să le strice coafura. Vestea proastă este că acestea au ajuns să semene atât de mult cu persoanele reale încât, în unele cazuri, nici banca, nici familia nu își dau seama că vorbesc cu un robot, relatează The Wall Street Journal.
În ultimul timp se tot vorbește de roboți de chat, precum ChatGPT al companiei OpenAI sau Bard de la Google, sau despre generatoarele de imagini ca Dall-E. Există însă instrumente cu care oamenii pot acum să șteargă și mai mult linia de separare dintre inteligența artificială și cea umană.
„În ultimele luni, am testat Synthesia, un instrument care creează avataruri cu inteligență artificială din videoclipuri și înregistrări audio (numite și deepfakes)”, scrie jurnalista Joanna Stern. „Tastează orice și avatarul tău video îți spune textul înapoi ca un papagal.”
Stern a înregistrat 30 de minute de imagini video și aproape 2 ore de audio pe care Synthesia le-a folosit pentru a-i antrena clona. Câteva săptămâni mai târziu, AI Joanna era gata să dea piept cu realitatea.
Apoi, Stern s-a folosit de avatarul ei inteligent și de ChatGPT ca să încerce să vadă dacă această clonă o poate înlocui în timpul filmărilor, a întâlnirilor online și în convorbirile telefonice.
La un moment dat, AI Joanna ar putea să scrie articole și să prezinte videoclipuri. Pentru moment, ea este cea care poate ilustra cel mai bine lama cu două tăișuri a instrumentelor de generare de voce și imagine AI.
Ca să apari într-o filmare este nevoie de mult timp și efort: cineva trebuie să îți aranjeze părul, să îți facă machiajul și să opereze camerele, luminile, microfoanele și așa mai departe. Synthesia promite să facă întreg acest proces unul inutil și de aceea corporațiile au început deja să apeleze la serviciile lor.
Cu programele de acest gen nu mai este nevoie ca firmele să plătească actori care să apară în videoclipuri de prezentare sau de instruire a angajaților. Cu doar 1.000 de dolari pe an, acestea pot crea și gestiona un avatar personalizat (sau, pentru o sumă mult mai mică, un avatar de stoc).
Stern a descoperit cu plăcere că ChatGPT generează text din care lipsește personalitatea și expertiza persoanei reale Foto: Profimedia Images
Clonele virtuale, tot mai greu de deosebit de realitate. „Mă uitam ca la reflexia mea din oglindă”
Cu ajutorul ChatGPT, Stern a scris un text scurt pentru un videoclip de TikTok cu sfaturi despre sistemul de operare iOS rostit de vocea jurnalistei.
„A fost ca și când mă uitam la reflexia mea dintr-o oglindă, lipsită totuși de gesturile cu mâna și de expresiile faciale”, scrie Stern. „Pentru propoziții rapide, avatarul poate fi destul de convingător. Cu cât este mai lung textul, cu atât natura sa de robot își face simțită prezența”.
Pe TikTok, unde oamenii au capacitatea de concentrare a unui peștișor de aur, aceste asemănări cu un program de calculator nu sunt atât de evidente.
Robotul din AI Joanna și-a făcut imediat simțită prezența, însă, în timpul unei conferințe video. Postura ei perfectă și faptul că îi lipsește simțul umorului au fost indicii clare pentru colegii lui Stern că nu se adresează unei persoane reale.
Synthesia lucrează acum la avataruri care dau din cap și ridică din sprâncene, printre alte gesturi nou dobândite, ceea ce le va face să pară mult mai reale.
Pentru convorbirile telefonice cu sora ei și cu directorul executiv al Snap, Stern a folosit o clonă audio a sa generată de ElevenLabs, un dezvoltator de programe de manipulare a vocii.
Cu 90 de minute de înregistrări audio în care se aude glasul lui Stern, programul a reușit să îi cloneze vocea în doar două minute. Acum, tot ce trebuia ea să facă era să introducă o propoziție, iar clona ei o enunța cu voce tare.
Robotului virtual i-a fost mai ușor să păcălească banca decât familia femeii clonate
Sora ei, cu care Stern vorbește la telefon de câteva ori pe săptămână, a spus că robotul a sunat exact ca jurnalista, dar că și-a dat într-un final seama că ceva nu este în regulă din cauză că clona ei nu face pauze în vorbire. De ce ar face-o, din moment ce nu are nevoie să respire?
Când și-a sunat tatăl căruia i-a cerut codul numeric personal, acesta a început să se îndoiască de natura interlocutorului doar pentru că textul rostit de clona lui Stern suna ca o înregistrare a vocii ei.
Imagini create de inteligența artificială. Colaj foto: Profimedia Images
Clona ei audio, însă, a fost de ajuns pentru a păcăli sistemul biometric audio al cardului bancar al lui Stern. Când a auzit vocea robotului, sistemul a recunoscut-o ca aparținând jurnalistei și a redirecționat-o imediat către un reprezentant al băncii.
Având în vedere cât de ușor a fost să creeze o clonă care să păcălească sistemul de siguranță al băncii, orice persoană cu acces la internet ar putea să fure câteva ore de înregistrări audio cu o altă persoană pe care o poate imita cu un singur click.
Ambele sisteme mi-au permis să generez niște lucruri oribile cu vocea mea, inclusiv amenințări cu moartea.
„Sigur, este clar că eu nu sunt clona mea video, dar [tehnologia] va deveni din ce în ce mai bună”, scrie Stern. „Și dacă proprii mei părinți și sora mea nu au putut cu adevărat să audă diferența din vocea mea, pot să mă aștept de la alții să o facă?”
Spre deosebire de AI Joanna care nu zâmbește niciodată, adevărata Joanna a descoperit cu fericire că ChatGPT generează text din care lipsește personalitatea și expertiza persoanei reale, iar clonei video îi lipsesc tocmai lucrurile care o fac pe Stern să fie autentică.
Cu toate că o voce AI poate avea și ea utilitatea ei, vocea reală are mai multă energie, emoție și cadență.
Va deveni vreodată inteligența aritificală mai bună? Cu siguranță. Dar plănuiesc să folosesc aceste instrumente ca să îmi ofer mai mult timp să fiu un om real. Între timp, acum măcar stau mult mai dreaptă în timpul întâlnirilor.
Nouă ne pasă ca datele tale personale să rămână confidențiale
Noi și partenerii noștri 136 stocăm și/sau accesăm informații pe dispozitivul dvs., precum identificatorii cookie unici pentru prelucrarea datelor cu caracter personal. Puteți accepta sau gestiona alegerile dvs. făcând clic mai jos sau în orice moment, pe pagina cu politica de confidențialitate. Aceste alegeri vor fi raportate partenerilor noștri și nu vă vor afecta navigarea.Mai multe detalii
Noi si partenerii nostri (retelele de socializare si agentiile de publicitate partenere, precum si furnizorii nostri de servicii de date analitice) prelucram date pentru a permite website-ului sa functioneze, pentru a personaliza continutul si anunturile publicitare afisate in functie de interesele si/sau profilul dvs., pentru a va oferi functionalitati aferente retelelor de socializare si pentru a analiza traficul pe website. Beneficiati de drepturile prevazute de art. 15-22 din GDPR in legatura cu prelucrarea datelor cu caracter personal. Aceste drepturi pot fi exercitate prin modalitatea indicata aici. Prin click pe “ACCEPT TOATE”, acceptati folosirea tuturor Tehnologiilor de tip Cookie, care implica inclusiv acceptul dvs. cu privire la stocarea/accesarea informatiilor de catre Vendor-ii cu care colaboram. Prin click pe “VREAU SA MODIFIC SETARILE INDIVIDUAL” puteti schimba preferintele in mod individual, mai putin cele legate de cookie strict necesare pentru functionarea website-ului.
Atât noi, cât și partenerii noștri prelucrăm datele pentru a oferi:
Stocarea și/sau accesarea informațiilor de pe un dispozitiv. Utilizarea profilurilor pentru selectarea conținutului personalizat. Dezvoltarea și îmbunătățirea serviciilor. Măsurarea performanței reclamelor. Utilizarea profilurilor pentru selectarea publicității personalizate. Crearea profilurilor de conținut personalizat. Crearea profilurilor pentru publicitate personalizată. Măsurarea performanței conținutului. Înțelegerea publicului prin statistici sau combinații de date din surse diferite. Utilizarea de date limitate pentru a selecta publicitatea. Utilizarea datelor limitate pentru a selecta conținutul. Date precise de geolocație și identificarea prin scanarea dispozitivului.