Compania americană OpenAI a anunțat marți că va implementa un mecanism de control parental pentru ChatGPT, după ce, la sfârșitul lunii august, unii părinți americani au susținut că robotul conversațional i-ar fi determinat pe copiii lor să se sinucidă, transmite AFP.
OpenAI a precizat că, începând cu luna următoare, părinții vor putea conecta contul lor la cel al adolescentului și „să controleze modul în care ChatGPT răspunde adolescentului lor cu reguli de comportament ale modelului”.
Compania a adăugat că părinții vor fi notificați dacă se detectează o „stare de suferință acută” în conversațiile copiilor și că vor putea regla parametrii contului.
Anunțul urmează unui articol de blog publicat la sfârșitul lunii august, în care OpenAI anunța că pregătește un mecanism de control parental.
Cu o zi înainte, părinții unui adolescent californian de 16 ani care s-a sinucis au depus plângere împotriva OpenAI, susținând că ChatGPT i-ar fi oferit fiului lor instrucțiuni detaliate pentru a-și lua viața și că l-ar fi încurajat să facă acest gest.
Compania a menționat că:
„Continuăm să îmbunătățim modul în care modelele noastre recunosc și răspund la semnele de suferință mentală și emoțională”.
OpenAI a anunțat că va introduce și alte măsuri în următoarele 120 de zile.
De asemenea, grupul american va redirecționa anumite „conversații sensibile” către modele de raționament mai avansate, cum ar fi GPT-5 Thinking, menționând că „Modelele de raționament urmează și aplică într-un mod mai sistematic directivele de securitate”.
