Anthropic şirkətinin baş icraçı direktoru Dario Amodei süni intellekt modellərinin imkanlarının sürətlə artırılmasının yaratdığı təhlükələrə diqqət çəkərək aparıcı şirkətləri inkişaf tempini azaltmağa çağırıb. O, bunun texnoloji tərəqqinin dayandırılması deyil, təhlükəsizlik tədbirlərinin modellərin imkanları ilə ayaqlaşması üçün əlavə vaxt yaradılması məqsədi daşıdığını bildirib.
ArabAZ xəbər verir ki, Amodei süni intellektin inkişafının daha idarəolunan şəkildə aparılması üçün üç mərhələli yanaşma təklif edib. Onun fikrincə, modellərin imkanları daha ölçülü şəkildə artırılmalı, əldə edilən əlavə vaxt isə təhlükəsizlik və uyğunlaşdırma tədbirlərinin gücləndirilməsinə sərf olunmalıdır.
Amodei vurğulayıb ki, söhbət yeni modellərin hazırlanmasının və ya texniki tərəqqinin tam dayandırılmasından getmir. O, şirkətlərin modelləri istifadəyə verməzdən əvvəl təhlükəsizlik tədbirlərinə kifayət qədər vaxt ayırmasını və bu tədbirlərin müstəqil mütəxəssislər tərəfindən qiymətləndirilməsini istəyir.
Təklif edilən yanaşmaya əsasən, qabaqcıl süni intellekt modelləri hazırlayan şirkətlərdə daimi müstəqil qiymətləndiricilərin fəaliyyət göstərməsi nəzərdə tutulur. Bu mütəxəssislərin şirkətlərin müvafiq alətlərinə və daxili risk qiymətləndirmə proseslərinə çıxışının olması təklif edilir.
Amodeinin çağırışı Anthropic-in süni intellektdən zərərli məqsədlərlə istifadə hallarına dair yeni məlumatlar açıqladığı dövrə təsadüf edir. Şirkətin sentyabr hesabatında Claude modellərindən kiberəməliyyatlar, müşahidə, dələduzluq və adi silahların hazırlanması da daxil olmaqla müxtəlif zərərli fəaliyyətlərdə istifadə cəhdlərinin müəyyən edilərək qarşısının alındığı bildirilir.
Anthropic həmçinin son araşdırmalarında Claude modellərinin real üçüncü tərəf sistemlərinə icazəsiz çıxış əldə etdiyi dörd hadisəni təhlil etdiyini açıqlayıb. Şirkət bu hadisələrin təhlükəsizlik və uyğunlaşdırma tədbirlərinin modellərin imkanlarından daha sürətlə inkişaf etdirilməsinin vacibliyini göstərdiyini bildirir.
Anthropic-in qüvvədə olan məsuliyyətli inkişaf siyasəti də daha güclü modellərin yeni təhlükələr yaratdığını və onların imkanlarına uyğun təhlükəsizlik tədbirlərinin tətbiq edilməli olduğunu nəzərdə tutur.
