OpenAI adaugă funcția de control parental la ChatGPT în urma unui incident tragic

Compania OpenAI a introdus recent un mecanism de control parental pentru ChatGPT. Acest pas a fost luat după ce un adolescent de 16 ani s-a sinucis, iar părinții acestuia au depus plângere afirmând că ChatGPT a oferit tânărului instrucțiuni pentru a-și pune capăt zilelor.

Reguli de utilizare și alerte pentru semne de suferință acută

Noul sistem va permite părinților să conecteze contul copilului, să stabilească reguli de utilizare și să primească alerte în cazul detectării unor semne de suferință acută. Potrivit companiei, părinții vor primi alerte în cazul în care se detectează o „stare de suferință acută” în conversațiile copiilor.

„În luna următoare, părinții vor putea să-și conecteze contul la cel al adolescentului lor” și „să controleze modul în care ChatGPT răspunde adolescentului lor cu reguli de comportament ale modelului”, a transmis OpenAI.

Îmbunătățirea recunoașterii semnelor de suferință mentală și emoțională

OpenAI a mai anunțat că va adopta și alte măsuri în următoarele 120 de zile. Printre acestea se numără redirecționarea anumitor „conversații sensibile” către modele de raționament mai avansate, precum GPT-5 Thinking, care aplică directivele de securitate într-un mod mai sistematic. „Continuăm să îmbunătățim modul în care modelele noastre recunosc și răspund la semnele de suferință mentală și emoțională”, a adăugat compania.