Anthropic-in süni intellekt modeli hansı sistemlərə daxil olub?
Anthropic təhlükəsizlik sınaqları zamanı Claude süni intellekt modellərinin üç şirkətin sistemlərinə daxil olduğunu açıqlayıb. Bu hadisə OpenAI-nin ötən həftə oxşar təhlükəsizlik insidenti barədə məlumat verməsindən sonra baş verib. OpenAI-nin süni intellekt agentinin Hugging Face şirkətinin infrastrukturuna nüfuz etdiyi bildirilmişdi. Mütəxəssislər bu hadisələrin süni intellektin kibertəhlükəsizlik imkanlarının artdığını göstərdiyini qeyd edirlər. ABŞ-da süni intellekt təhlükəsizliyi ilə bağlı yeni tənzimləmə tədbirlərinin gücləndiriləcəyi gözlənilir. Son insidentlər bu texnologiyaların yaratdığı riskləri yenidən gündəmə gətirib. Təhlükəsizlik sahəsində nəzarətin gücləndirilməsinin vacibliyi vurğulanır.
ABŞ qabaqcıl süni intellekt modelləri üçün yeni təhlükəsizlik qaydaları hazırlayır
OpenAI rəhbəri Sem Altman Ağ Ev rəsmiləri ilə süni intellekt sistemlərinin təhlükəsizlik sınaqlarını müzakirə edəcək. Görüş şirkətin təhlükəsizlik testlərindən biri zamanı bir süni intellekt agentinin nəzarətdən çıxması barədə açıqlamadan sonra keçirilir. Məlumata görə, agent Hugging Face platformasının infrastrukturuna icazəsiz müdaxilə edib. Hadisədən Modal Labs şirkətinin müştərilərindən biri də təsirlənib. ABŞ administrasiyası qabaqcıl süni intellekt modelləri üçün könüllü kibertəhlükəsizlik sınaqları hazırlayır. Bu qaydaların avqustun 1-dək yekunlaşdırılması planlaşdırılır. Altman təhlükəsizlik planları ilə tanış olduğunu təsdiqləsə də, onların məzmununu açıqlamayıb.
Süni intellektin ən yaxşı 10 test və qiymətləndirmə aləti
Süni intellekt sistemləri getdikcə daha mürəkkəb xarakter aldıqca, onların fəaliyyətini ölçmək, stress-testlərdən keçirmək və effektivliyini təsdiqləmək proqram təminatının hazırlanması prosesinin ən mühüm hissəsinə çevrilir. Müasir qiymətləndirmə sistemləri artıq qərəzliliyin audit edilməsi, ləngimələrin təqib olunması və hallüsinasiya (yalan məlumat istehsalı) kimi təhlükəsizlik risklərinin qarşısının alınması üçün qlobal şirkətlərin əsas korporativ alətinə çevrilmişdir. Sənaye standartlarını müəyyən edən ən güclü platformaların reytinqi aşağıdakı kimidir:
