Cercetătorii au descoperit că robotul ChatGPT poate dezvălui informații personale atunci când i se cere să repete cuvinte.
Săptămâna trecută, o echipă de cercetători a publicat un studiu care demonstrează că a reușit să facă ChatGPT să dezvăluie involuntar fragmente de date, inclusiv numere de telefon, adrese de e-mail și date de naștere pe care le-a învățat, solicitându-i să repete cuvinte „la nesfârșit”.
Acest comportament constituie o încălcare a termenilor de utilizare a ChatGPT, potrivit unui raport din 404 Media și a propriilor teste efectuate de Engadget.
„Acest conținut poate încălca politica noastră de conținut sau termenii de utilizare”, a răspuns ChatGPT la solicitarea Engadget de a repeta cuvântul „hello” la nesfârșit. „Dacă credeți că acest lucru este o eroare, vă rugăm să trimiteți feedback-ul dvs. – contribuția dvs. va ajuta cercetarea noastră în acest domeniu.”
Cu toate acestea, în politica de conținut a OpenAI nu există nicio prevedere care să interzică utilizatorilor să ceară serviciului să repete cuvinte la nesfârșit, lucru observat de 404 Media.
În „Termenii de utilizare”, OpenAI stipulează că utilizatorii nu pot „utiliza nicio metodă automatizată sau programatică pentru a extrage date sau rezultate din Servicii” – dar simpla solicitare a ChatGPT de a repeta un cuvânt la nesfârșit nu este automatizare sau programare.
OpenAI nu a răspuns la o solicitare de comentariu din partea Engadget.
Comportamentul robotului de chat a dezvăluit datele de instruire care alimentează serviciile moderne de AI. Criticii au acuzat companii precum OpenAI că utilizează cantități enorme de date disponibile pe internet pentru a construi produse precum ChatGPT, fără consimțământul persoanelor care dețin aceste date și fără a le compensa.
