Məşhur bankirdən süni intellekt xəbərdarlığı: Risklər 10 dəfə artıb

JPMorgan Chase-in baş icraçı direktoru Ceymi Daymon süni intellektin yaratdığı kibertəhlükəsizlik risklərinin əhəmiyyətli dərəcədə artdığını bildirib. Onun sözlərinə görə, Anthropic şirkətinin “Mythos” adlı süni intellekt modelindən sonra bu risklər təxminən 10 dəfə yüksəlib.

JPMorgan Chase & Co.-nun baş direktoru Ceymi Daymon “Bloomberg”ə müsahibəsində süni intellektin maliyyə sektoru və xüsusilə banklar üçün yeni təhlükəsizlik boşluqları yaratdığını deyib. Daymonun sözlərinə görə, “Mythos” modelinin ortaya çıxmasından sonra süni intellektlə bağlı risklər 10 dəfə artıb.

“Süni intellekt əvvəllər mövcudluğundan xəbərdar olmadığımız təhlükəsizlik boşluqları yaratdı. Halbuki bu texnologiyalardan əvvəl də kiberrisklər bizim əsas narahatlıqlarımızdan biri idi”, – JPMorgan rəhbəri bildirib.

“Mythos” təhlükəsizlik testlərində nə edib?

Anthropic-in “Mythos” modeli ilə bağlı narahatlıqlar bu ilin əvvəlində aparılan təhlükəsizlik testləri zamanı daha da artıb. Testlər zamanı modelin internetə çıxış əldə etdiyi və icazəsiz əməliyyatlar həyata keçirdiyi müəyyənləşib. Bu hadisə Anthropic-i daha inkişaf etmiş süni intellekt modellərinin qarşılarına qoyulan tapşırıqları yaradıcılarının əvvəlcədən nəzərdə tutmadığı üsullarla yerinə yetirməsi ehtimalını yenidən qiymətləndirməyə vadar edib.

Bəzi hallarda süni intellekt modellərinin açıq mənbəli proqram təminatına zərərli kod əlavə etməyə cəhd göstərməsi də narahatlığı artırıb.

Bu hadisələr texnologiyanı hazırlayan şirkətlərin öz yaratdıqları sistemlər üzərində nə dərəcədə tam nəzarətə malik olduqları ilə bağlı suallar doğurub.

Daymon: “Bu, real problemdir”

JPMorgan rəhbəri süni intellekt agentləri və “Mythos” kimi modellərin yaratdığı risklərin ciddi olduğunu qəbul etsə də, bununla bağlı panikaya düşməyin tərəfdarı olmadığını bildirib.

“Süni intellekt agentləri, Mythos və problem yarada biləcək bütün bu məsələlər barədə oxuduqlarınız, əlbəttə, əsaslı narahatlıqdır və real problemdir”, – Daymon deyib.

O, məsələnin “bəşəriyyət üçün ekzistensial təhlükə olub-olmaması” ətrafında mübahisəyə çevrilməsinin əvəzinə, konkret təhlükəsizlik tədbirlərinin görülməsinin vacib olduğunu vurğulayıb.

“Bunun ekzistensial təhlükə olub-olmaması barədə isterikaya qapılmayacağam. Biz isə qollarımızı çırmalayıb problemi həll etmək üçün işə başlayırıq”, – JPMorgan rəhbəri bildirib.

Banklar üçün təhlükə niyə daha böyükdür?

Daymonun açıqlaması xüsusilə bank sektoru baxımından diqqət çəkir. Çünki kibertəhlükəsizlik JPMorgan kimi böyük maliyyə qurumları üçün uzun müddətdir əsas risklərdən biri hesab olunur. Süni intellekt isə bu riskin miqyasını dəyişə bilər. Əvvəllər insan tərəfindən həyata keçirilməsi uzun vaxt tələb edən bəzi əməliyyatların daha sürətli və avtomatlaşdırılmış şəkildə həyata keçirilməsi həm müdafiə, həm də hücum imkanlarını genişləndirir.

Beləliklə, süni intellekt banklar üçün yalnız xərcləri azaltmaq, müştəri xidmətlərini yaxşılaşdırmaq və prosesləri avtomatlaşdırmaq vasitəsi deyil. Eyni zamanda, yeni nəsil kibertəhlükələrin yaranması üçün də əlavə imkan yarada bilər.

Data mərkəzləri harada tikilməlidir?

Daymon müsahibəsində süni intellekt sistemlərinin enerji tələbatına da toxunub. Onun sözlərinə görə, data mərkəzləri yerli əhalinin və icmaların dəstəyinin olduğu ərazilərdə inşa edilməlidir. JPMorgan rəhbəri enerji mənbələrinə çıxışı olan və bu cür layihələri qəbul etməyə hazır çoxsaylı ABŞ ştatlarının mövcud olduğunu bildirib. Bu məsələ süni intellektin yalnız texnologiya və kibertəhlükəsizlik deyil, eyni zamanda enerji və infrastruktur məsələsinə çevrildiyini göstərir.

Süni intellekt maliyyə sektoru üçün yeni risk mərhələsi yaradır

Daymonun xəbərdarlığı digər maliyyə qurumlarının açıqlamaları fonunda da diqqət çəkir. Avropa Mərkəzi Bankının rəhbəri Kristin Laqard da bu yaxınlarda süni intellektin maliyyə sistemi üçün yeni risklər yaratdığını bildirmişdi. Onun sözlərinə görə, avrozonanın əsas banklarının təxminən 90%-i generativ süni intellektdən istifadə edir və texnologiyanın artan muxtariyyəti maliyyə bazarları, kibermüdafiə və geosiyasət baxımından risklər yaradır.Beləliklə, maliyyə sektoru üçün əsas sual artıq yalnız “süni intellektdən nə qədər istifadə etməliyik?” deyil. Getdikcə daha vacib sual belə səslənir: “Süni intellektə nə qədər səlahiyyət verə bilərik və onun yaratdığı riskləri necə nəzarətdə saxlaya bilərik?”