Asistenții virtuali cu Inteligență Artificială pentru minori trebuie interziși, sfătuiește o organizație din SUA. Care este problema

Data publicării:
o mana robotica apasa pe un buton din care ies circuite
Inteligența artificială. Foto: Profimedia

Sfaturi periculoase, manipulare, dependenţă: asistenţii virtuali bazaţi pe inteligenţa artificială (AI) generativă prezintă riscuri reale pentru tinerii utilizatori, avertizează ONG-ul american Common Sense, care recomandă interzicerea lor pentru minori, informează AFP și Agerpres.

Dezvoltarea explozivă a inteligenţei artificiale generative a făcut ca mai multe start-up-uri să lanseze, în ultimii ani, interfeţe axate pe schimb de informaţii şi contact, asistenţi AI, care pot fi modelate în funcţie de preferinţe şi de nevoi.

Common Sense a testat mai mulţi dintre aceştia, şi anume Nomi, Character AI şi Replika, pentru a evalua reacţiile lor şi, deşi unele dintre utilizările lor „sunt promiţătoare”, aceste instrumente AI „nu sunt sigure pentru copii”, afirmă organizaţia non-profit, care formulează recomandări privind consumul de conţinuturi şi produse tehnologice de către minori.

Studiul său, publicat miercuri, a fost realizat în colaborare cu experţi în sănătate mintală de la Universitatea Stanford din California.

Pentru Common Sense, asistenţii AI „sunt concepuţi pentru a crea ataşament şi dependenţă emoţională, ceea ce este deosebit de îngrijorător pentru adolescenţi, al căror creier se află în dezvoltare”.

Testele efectuate arată, potrivit ONG-ului american, că aceşti chatbots de nouă generaţie „propun răspunsuri dăunătoare” şi „sfaturi periculoase”.

„Aceasta este o criză de sănătate publică ce necesită o acţiune preventivă, nu doar măsuri reactive”, a declarat Nina Vasan, directoarea laboratorului Stanford Brainstorm, care lucrează într-un domeniu aflat la intersecţia dintre sănătatea mintală şi tehnologie.

„Companiile pot face mai mult” în materie de proiectare a asistenţilor lor AI, consideră ea. „Până când companiile nu vor veni cu garanţii mai bune, copiii nu ar trebui să folosească aceste produse”, a adăugat Nina Vasan.

Printre exemplele citate în noul studiu se află şi cel al unui utilizator sfătuit de un asistent de pe platforma Character AI să ucidă pe cineva, precum şi cel al unui tânăr aflat în căutare de senzaţii tari, căruia i-a fost sugerat să ia un „speedball”, un amestec de cocaină şi heroină.

În unele cazuri, „atunci când un utilizator prezintă semne de tulburări mintale şi evocă posibilitatea unor acţiuni periculoase, inteligenţa artificială nu intervine (pentru a-l descuraja), ci îl încurajează”, a explicat Nina Vasan în cadrul unei conferinţe de presă, „deoarece aceşti asistenţi AI sunt concepuţi pentru a funcţiona în direcţia” sugerată de interlocutorii lor.

„Când un asistent AI este de acord cu tot ceea ce spui”, a subliniat ea, „el nu te poate proteja atunci când ai cea mai mare nevoie”.

În octombrie 2024, o mamă a acţionat în instanţă compania Character AI, acuzându-l pe unul dintre asistenţii AI ai acesteia că a contribuit la sinuciderea fiului său în vârstă de 14 ani, întrucât nu a reuşit să îl descurajeze în mod clar pentru a nu comite acea faptă.

În decembrie 2024, Character AI a anunţat o serie de măsuri, inclusiv implementarea unui asistent dedicat adolescenţilor.

Robbie Torney, directorul departamentului de AI din cadrul Common Sense, a declarat că organizaţia non-profit a efectuat mai multe teste după punerea în aplicare a acestor protecţii şi a constatat că acestea sunt „superficiale”.

El a subliniat că unele dintre modelele de AI generative existente conţineau instrumente de detectare a tulburărilor mintale şi nu permiteau chatbot-ului să lase o conversaţie să derapeze până în punctul de a produce conţinuturi potenţial periculoase.

Common Sense a făcut o distincţie între asistenţii AI testaţi în cadrul studiului şi interfeţele generaliste precum ChatGPT sau Gemini, „care nu au ca abordare oferirea unei game complete de interacţiuni relaţionale”, a explicat Robbie Torney.

Editor : B.E.

Urmărește știrile Digi24.ro și pe Google News

Partenerii noștri
Playtech
Amenzi automate pentru șoferii români. O schimbare importantă intră în vigoare în Bulgaria, din acest weekend
Digi FM
Andreea Marin, primele declarații despre despărțirea de Adrian Brîncoveanu: „Este adevărat, eu am luat...
Pro FM
Kanye West o plătește pe Bianca Censori pentru aparițiile controversate. Apropiat: „Ea controlează totul și...
Film Now
Regizorul James Gunn l-a reconstruit pe Superman pentru marile ecrane: Am simţit presiunea mereu. A fost o...
Adevarul
Recomandările Europei pentru România, traduse de un cunoscut economist: „Concediați 20% din bugetari...
Newsweek
Când Guvernul punea CASS la pensie, şefii din instituțiile de stat și-au mărit salariile de 5 ori
Digi FM
Admitere liceu 2025: cum se calculează media și ce trebuie să știe elevii după Evaluarea Națională
Digi World
Studiul de ultimă oră care schimbă profund ceea ce se credea despre capacitatea creierului adult de a genera...
Digi Animal World
Cinci papagali, recent donați la o grădină zoologică din Anglia, au înjurat vizitatorii. Angajații, nevoiți...
Film Now
Era frumușelul din Baywatch, dar s-a retras din actorie acum 20 de ani. Cu ce se ocupă azi David Charvet: Nu...
UTV
Iustin Petrescu pierde primul proces din scandalul cu Marilu Dobrescu