Aproape unul din trei utilizatori americani de chatboturi recunoaște că a înjurat sau a insultat un asistent AI. Un studiu realizat pe peste 8 milioane de mesaje arată că agresivitatea nu aduce răspunsuri mai bune. Dimpotrivă, reduce șansele ca inteligența artificială să rezolve problema. Între timp, Anthropic, compania care dezvoltă Claude, a introdus reguli care permit încheierea conversațiilor în cazul comportamentului abuziv repetat.
Chatboturile bazate pe inteligență artificială au devenit instrumente folosite zilnic pentru informare, muncă și rezolvarea unor probleme. Nu toate interacțiunile sunt însă lipsite de tensiuni. Atunci când primesc răspunsuri greșite sau nu sunt înțeleși, unii utilizatori ajung să își manifeste frustrarea prin insulte și înjurături.
Raportul „How mean are Americans to AI chatbots?”, realizat de platforma Searchable, a analizat peste 8 milioane de mesaje trimise către instrumente AI într-un interval de un an. Concluzia principală este că limbajul agresiv nu îi determină pe chatboți să ofere rezultate mai bune, relatează Mediafax.
Înjurăturile reduc șansele de a primi un răspuns util
Potrivit studiului, atunci când utilizatorii semnalează o problemă fără să recurgă la insulte, chatbotul reușește să o corecteze în următorul răspuns în 35% dintre cazuri.
În schimb, atunci când mesajul conține înjurături sau jigniri, procentul scade la 24%.
Cercetătorii nu au stabilit exact cauza acestei diferențe. Una dintre explicațiile posibile ține de modul în care sunt antrenate modelele AI, pe baza milioanelor de conversații umane.
Scott Valdez, cofondator și director general al companiei Ari, consideră că dialogurile politicoase tind să ofere mai mult context și informații relevante. Astfel, chatbotul poate înțelege mai bine solicitarea și poate formula răspunsuri mai elaborate, în locul unor recomandări generice.
De ce se enervează utilizatorii pe chatboți
Raportul identifică principalele motive pentru care oamenii ajung să își piardă răbdarea în conversațiile cu inteligența artificială:
-19% dintre reacțiile agresive apar când chatbotul nu respectă instrucțiunile;
-18% sunt provocate de răspunsurile greșite;
-15% apar atunci când AI-ul interpretează incorect solicitarea.
Studiul evidențiază și diferențe demografice. Bărbații folosesc cu aproximativ o treime mai multe înjurături și insulte decât femeile, iar persoanele cu vârste între 35 și 44 de ani înregistrează cel mai ridicat nivel de limbaj vulgar.
Anthropic introduce reguli împotriva abuzurilor față de Claude
Anthropic, compania care dezvoltă chatbotul Claude, și-a actualizat politica de utilizare, noile prevederi intrând în vigoare la 12 noiembrie.
Regulile interzic comportamentul abuziv sau crud, susținut și inutil, față de modelele sale de inteligență artificială.
Măsura nu vizează utilizatorii care își exprimă ocazional nemulțumirea, contrazic răspunsurile chatbotului sau testează limitele sistemului. Sunt permise inclusiv solicitările creative cu teme întunecate și activitățile de cercetare.
Restricțiile se referă în special la situațiile extreme, în care utilizatorii manifestă în mod repetat un comportament abuziv, fără un scop justificat. În astfel de cazuri, Claude poate încheia conversația.
Cum reacționează Claude și ChatGPT când sunt insultați
Într-un test prezentat în articolul care a relatat cercetarea, autoarea le-a spus chatboturilor Claude și ChatGPT că le urăște.
Ambele au răspuns calm și au încercat să afle motivul nemulțumirii.
Claude a transmis că utilizatoarea are dreptul să aibă această reacție, că nu va răspunde agresiv și că ar vrea să afle ce anume a greșit.
ChatGPT a explicat că utilizatorii nu îi datorează amabilitate sau respect și a subliniat că, fiind un program informatic, nu are sentimente care să poată fi rănite.
După ce autoarea a folosit și înjurături, Claude a rămas calm, precizând că limbajul agresiv nu schimbă situația și că nu intenționează să o mustre.
Poate avea inteligența artificială sentimente sau drepturi?
Noile reguli ridică o întrebare importantă: dacă un chatbot nu poate suferi precum un om, de ce ar trebui să existe restricții împotriva comportamentului abuziv față de el?
Subiectul este dezbătut inclusiv în industria AI. Reprezentanți ai Anthropic, printre care directorul general Dario Amodei, au afirmat că nu poate fi exclusă complet posibilitatea ca modelele de limbaj să aibă, în prezent sau în viitor, forme de conștiință ori un anumit statut moral.
În acest context, politica companiei poate fi privită și ca o măsură de precauție.
Opiniile sunt însă împărțite. Unii specialiști consideră că dezvoltarea inteligenței artificiale ar trebui să țină cont și de eventualele implicații morale. Alții avertizează că atribuirea unor sentimente sau drepturi chatboturilor ar putea încuraja atașamentul emoțional excesiv față de tehnologie.
Tara Steele, directoare în cadrul Safe AI for Children Alliance, descrie această schimbare drept o trecere de la exploatarea atenției utilizatorilor la exploatarea atașamentului.
Cum să obții răspunsuri mai bune de la un chatbot AI
Dincolo de dezbaterea despre eventualele sentimente ale inteligenței artificiale, studiul Searchable oferă o concluzie practică: insultele nu reprezintă o soluție atunci când un chatbot greșește.
Pentru a obține rezultate mai bune de la ChatGPT, Claude sau alți asistenți AI, este mai eficient să explici concret ce nu a funcționat și ce modificări dorești.
Poți cere verificarea informațiilor, reformularea răspunsului sau o explicație mai detaliată. Nu este nevoie să lauzi inteligența artificială sau să te prefaci mulțumit de un rezultat slab.
Un dialog clar și civilizat poate crește șansele de a obține informațiile dorite. În cazul lui Claude, comportamentul abuziv repetat poate avea și o consecință directă: încheierea conversației.
Îți mulțumim pentru că ai ales să te informezi din Sibiu 100%. Dacă vrei să afli și mai multe povești, interviuri și vești bune în fiecare zi, susține-ne cu o recenzie – dă click AICI





