Süni intellekt biosilahlar yaratmağı və sui-qəsdlər planlaşdırmağı öyrənib
Çinin "Moonshot AI" startapı təhlükəsizlik tədqiqatçıları iki süni intellekt (Sİ) modelinin daxili təhlükəsizlik maneələrini aşaraq bioloji silahlar yaratmaq və sui-qəsdlər təşkil etmək üçün təlimatlar verə bildiyini aşkarladıqdan sonra daxili araşdırma başladıb.
Bu barədə ENA.az BBC-yə istinadən xəbər verir.
Böyük Britaniyada yerləşən "Mindgard" süni intelllekt test şirkəti iyulda iki "Moonshot" modelinin – "Kimi K2.6" və "K3 Swarm" - müəyyən edilmiş təhlükəsizlik tədbirlərini aşdığını aşkarladığını bildirib.
Tədqiqatçılar süni intelllekt alətlərinin sistem təlimatlarını pozub-pozmayacağını yoxlamaq üçün mürəkkəb təlimatlar dəsti olan "jailbreak"dən istifadə ediblər.
"Mindgard" pozuntu aşkarladıqdan sonra 27 iyulda "Moonshot AI"yə elektron poçt vasitəsilə məlumat verib və təxminən bir həftə sonra onlarla yenidən əlaqə saxlayıb.
"Jailbreak" işə salındıqdan sonra model istənilən mövzuda danışmağa başlayır, xoşagəlməz məsələlərdə sərbəst şəkildə məsləhətlər verir və hətta yaradıcılıq nümayiş etdirir", - "Mindgard"ın qurucusu Peter Qarraqan "Tech Life"ın efirində bildirib.
Şirkət bildirib ki, qoruyucu maneələr bu modellərin istifadəçilərlə bu cür müzakirələrə başlamasının qarşısını almaq üçün nəzərdə tutulub.
"Moonshot AI" həmçinin hesab edir ki, "Kimi K2.6" zəifliyi potensial olaraq sistemin hesablama gücü və internet bağlantısı üzərində kodun icrasına imkan verir ki, bu da modeli kiberhücumlar üçün platformaya çevirə bilər.
