Daniela Arnăutu
China este primul stat din lume care a decis instituirea unor reglementări stricte privind chatboturile bazate pe inteligență artificială (AI), pe motiv că acestea pot duce la suicid, automutilare sau alte riscuri psihologice, potrivit CNBC.
Inițiativa a venit din partea Cyberspace Administration of China şi vizează”servicii AI interactive cu caracteristici umane”. Practic, sunt vizate toate produsele şi serviciile AI disponibile publicului din China care simulează personalitatea umană şi interacţionează emoţional cu utilizatorii prin text, imagini, sunet sau video. Până pe 25 ianuarie această propunere se află în consultare publică.
Această iniţiativă este prima din lume ce reglementează explicit inteligenţa artificială cu trăsături antropomorfe.
Ce prevăd măsurile din China
Winston Ma, profesor asociat la NYU School of Law, a declarat că noile propuneri constituie o tranziţie de la accentul pe siguranţa conţinutului, prezent în reglementările din 2023 privind AI generativ, către un cadru axat pe „siguranţa emoţională”.
Potrivit noilor prevederi, chatboturile AI nu vor avea voie să genereze conţinut care încurajează suicidul sau automutilarea şi nici să recurgă la violenţă verbală ori manipulare emoţională care ar putea afecta sănătatea mintală a utilizatorilor.
Când un utilizator arată intenții suicidare, furnizorii de tehnologie vor avea obligația de a transfera conversaţia către un operator uman, în vederea contactării unui tutore sau a unei persoană desemnate.
De asemenea, noile reguli stabilesc că chatboturile nu pot genera conţinut legat de jocuri de noroc, materiale obscene sau violente. În cazul minorilor, utilizarea AI pentru companie emoţională va necesita acordul unui tutore.
Proiectul prevede și ca plaformele să atenționeze utilizatorii, după două ore de interacţiune continuă cu un chatbot AI, dar şi impunerea unor evaluări de Securitate.
Totuși, autorităţile chineze încurajează utilizarea inteligenţei artificiale cu trăsături umane în domenii precum promovarea culturii şi sprijinul pentru persoanele vârstnice.
Două startup-uri chineze vor listare în Hong Kong
Iniţiativa vine exact când două startupuri chineze din zona chatboturilor, Z.ai şi Minimax, au depus documentaţia pentru listări publice la Hong Kong.
Minimax deține aplicaţia Talkie AI, ce permite utilizatorilor să converseze cu personaje virtuale, în timp ce Z.ai, cunoscută şi sub numele de Zhipu, susţine că tehnologia sa este utilizată pe zeci de milioane de dispozitive. Până în prezent, companiile nu au făcut niciun comentariu cu privire la noile reglementări.
Îți mulțumim pentru că ai ales să te informezi din Sibiu 100%. Dacă vrei să afli și mai multe povești, interviuri și vești bune în fiecare zi, susține-ne cu o recenzie – dă click AICI
, pe motiv că acestea pot duce la suicid, automutilare sau alte riscuri psihologice, potrivit CNBC.){kind=link}