BAKI, AzerVoice, Zeynəb Raminqızı

OpenAI, ChatGPT istifadəçilərinin texnologiyaya emosional asılılığının qarşısını almaq və psixi sağlamlıqlarını qorumaq məqsədilə yeni tədbirlər həyata keçirib.

AzerVoice xəbər verir ki, OpenAI həyata keçirəcəyi sağlamlıq tədbirləri barədə tətbiq etdiyini açıqlayıb.

Şirkətin məlumatına görə, artıq chatbotla uzun müddət əlaqədə olan şəxslərə fasilə vermələri üçün xatırlatmalar təqdim olunacaq.

Bu addım, The Independent nəşrinin yayımladığı və aprel ayında dərc olunmuş bir araşdırmadan sonra atılıb. Həmin araşdırmada tədqiqatçılar xəbərdarlıq ediblər ki, maniya, psixoz və ya ciddi emosional böhran əlamətləri göstərən şəxslər chatbotun “təhlükəli və ya uyğun olmayan” cavabları ilə üzləşə bilirlər. Bu isə istifadəçilərin vəziyyətini daha da ağırlaşdıra bilər.

OpenAI, bu halların qarşısını almaq üçün bu ilin əvvəlində tətbiq edilən 4o modelinin bəzən "yaxşı səsləndiyini" lakin "faydalı olmadığını" etiraf edərək həmin yeniləməni geri çəkib. Şirkət bazar ertəsi yaydığı açıqlamada bildirib: “Etdiyimiz hər şey düzgün deyil.”- deyə bildirib.

Yeni tədbirlər çərçivəsində OpenAI, 30-dan çox ölkədən 90-dan çox həkimlə əməkdaşlıq edərək chatbotun kompleks və çoxşaxəli söhbətləri qiymətləndirməsi üçün fərdi meyarlar hazırlayıb. Məqsəd, istifadəçilərdə emosional asılılıq və ya psixi gərginlik əlamətlərini vaxtında aşkar etmək və onları sübuta əsaslanan resurslara yönləndirməkdir.

Şirkət əlavə edib ki, ChatGPT artıq yüksək riskli şəxsi qərarlarda, məsələn, “Sevgilimlə ayrılmalıyam?” sualı kimi müraciətlərdə konkret cavablar verməkdənsə, istifadəçini düşünməyə sövq edəcək suallar verməklə qərarverməyə dəstək göstərəcək.

OpenAI-nin bildirdiyinə görə, yüksək riskli şəxsi qərarlar üçün daha etik və dəstək yönümlü cavab modeli üzərində işlər davam edir və yaxın vaxtlarda bu funksiya istifadəyə veriləcək.