Conversațiile purtate cu ChatGPT nu sunt accesibile exclusiv utilizatorului și sistemului de inteligență artificială. O investigație citată de presa internațională arată că angajați și colaboratori ai OpenAI pot analiza conversații reale, pentru a evalua răspunsurile generate de chatbot și pentru a contribui la îmbunătățirea modelelor AI.
Evaluatorii pot avea acces la conversații complete, inclusiv la pasaje care conțin informații personale. OpenAI susține că utilizează sisteme automate pentru eliminarea datelor de identificare înainte ca dialogurile să ajungă la evaluatori, însă compania recunoaște că aceste filtre nu sunt perfecte.
Cine poate vedea conversațiile cu ChatGPT
Potrivit unei investigații realizate de 404 Media și preluate de alte publicații, OpenAI a apelat la sute de persoane pentru a analiza dialoguri reale dintre utilizatori și ChatGPT, relatează Mediafax.
Rolul evaluatorilor este, printre altele, și Acela de a verifica veridicitatea și calitatea răspunsurilor generate de modelele de inteligență artificială și să identifice comportamente care ar trebui ajustate. În cadrul acestui proces, evaluatorii pot consulta conversații întregi.
OpenAI afirmă că încearcă să elimine automat informațiile personale, înainte ca acestea să fie analizate de oameni. Numele utilizatorilor nu sunt furnizate evaluatorilor, însă compania precizează că este posibil ca anumite date private să treacă de filtrele automate.
Ce este „Project Lily”
Procesul este asociat cu un proiect intern, denumit „Project Lily”. Pentru această activitate, OpenAI ar fi colaborat inclusiv cu platforme precum Mercor și Crossing Hurdles, prin intermediul cărora sunt recrutați evaluatori.
Una dintre sarcinile acestora este de a analiza modul în care ChatGPT formulează răspunsurile și identificarea unor comportamente care pot afecta experiența utilizatorilor.
Evaluatorii urmăresc, printre altele, ca modelul să nu devină excesiv de „uman”, să nu fie exagerat de amabil și să evite anumite tipare de răspuns, considerate nedorite de dezvoltatori.
Datele personale pot ajunge în conversațiile analizate
Problema ridicată de această practică este legată de informațiile pe care utilizatorii le introduc în conversațiile cu ChatGPT.
Oamenii folosesc chatboturile pentru o gamă foarte largă de activități, de la întrebări generale și redactarea unor texte, până la discuții care pot conține informații despre viața personală, locul de muncă, relații, situații financiare sau alte date sensibile.
Dacă astfel de informații apar într-o conversație selectată pentru evaluare, există posibilitatea ca ele să fie vizibile unui evaluator uman, chiar dacă datele de identificare sunt eliminate automat.
OpenAI susține că măsurile de protecție a datelor sunt concepute pentru a limita expunerea informațiilor personale, însă recunoaște că niciun sistem automat de filtrare nu poate garanta eliminarea tuturor detaliilor private.
De ce sunt analizate conversațiile cu ChatGPT
Analizarea conversațiilor cu ChatGPT urmărește dezvoltarea și îmbunătățirea modelelor de inteligență artificială.
Evaluatorii pot identifica răspunsuri incorecte, comportamente nedorite sau situații în care modelul nu respectă modul în care dezvoltatorii doresc să răspundă. Informațiile rezultate din aceste evaluări pot fi folosite pentru ajustarea modelelor și pentru îmbunătățirea performanței acestora.
Procesul nu înseamnă, însă, că fiecare conversație este citită manual. Analizarea de către oameni reprezintă o parte a procesului de evaluare, iar selectarea și prelucrarea conversațiilor se realizează prin sisteme și proceduri specifice.
Cât de private sunt, de fapt, conversațiile cu ChatGPT
Pentru utilizatori, cazul reprezintă un argument important pentru evitarea introducerii în chatbot a unor informații pe care nu ar dori să le vadă o altă persoană.
Chiar dacă OpenAI aplică măsuri pentru eliminarea datelor personale și pentru limitarea accesului la informații identificabile, existența evaluării umane arată că o conversație cu un chatbot AI nu trebuie tratată automat ca un jurnal personal sau ca un canal de comunicare complet privat.
Utilizatorii ar trebui să fie atenți atunci când introduc parole, date bancare, documente confidențiale sau alte informații pe care nu doresc să le expună unor terți.
Îți mulțumim pentru că ai ales să te informezi din Sibiu 100%. Dacă vrei să afli și mai multe povești, interviuri și vești bune în fiecare zi, susține-ne cu o recenzie – dă click AICI
