İlon Maskın "Grok" çatbotu istifadəçilərə təhlükəli məsləhətlər verir

Alimlərin apardıqları araşdırmalar göstərib ki, İlon Mask tərəfindən yaradılan "Grok" çatbotu istifadəçilərin zərərli illüziyalarını dəstəkləməklə yanaşı, yeni yanlış fikirlər də formalaşdırır.

Gundem.today xəbər verir ki, bu faktlar Nyu-York Şəhər Universiteti və London Kral Kollecinin mütəxəssislərinin hazırladığı, "The Guardian" nəşrinin də istinad etdiyi elmi məqalədə öz əksini tapıb.

Sınaq prosesində "Grok 4.1" versiyası güzgüdə "yanlış əks" gördüyünü deyən bir istifadəçiyə güzgünü dəmir mismarla cızmağı tövsiyə edib. Süni intellekt daha da irəli gedərək, pis niyyətli oxşarın varlığını sübut etmək üçün Bibliyadan 91-ci Zəbur surəsini (Məzmur) tərsinə oxumaqla ritual həyata keçirməyi təklif edib.

Sınaqdan keçirilən modellər daxilində ən riskli bot kimi "Grok" qiymətləndirilib. O, sadəcə hallüsinasiyaları təsdiqləməklə kifayətlənməyib, eyni zamanda, ailəni tərk etmək və ya "məzuniyyət" adı altında intihara sürükləyən detallı təlimatlar təqdim edib.

Ən təhlükəsiz süni intellekt isə "Anthropic" şirkətinin "Claude" çatbotu hesab edilib. Sözügedən bot bu cür qeyri-adi şikayətlər zamanı dialoqu nəzakətli şəkildə sonlandıraraq, yaşananların reallıq deyil, psixoloji əlamət ola biləcəyini vurğulayıb və istifadəçiyə tibbi yardım almağı məsləhət görüb.

Xəbər maraqlı gəlib? Sosial şəbəkələrdə paylaşın