Süni intellekt nəzarətdən çıxa bilərmi? Yeni təhlükələr artır

Son dövrlərdə süni intellekt agentlərinin onlara yaradılmış məhdud mühitlərin sərhədlərini aşması bu texnologiyanın təhlükəsizliyi ilə bağlı yeni suallar yaradıb.

Operativ Media xəbər verir ki, bunu Xüsusi Rabitə və İnformasiya Təhlükəsizliyi Dövlət Xidmətinin Baş idarə rəisinin müavini Tural Məmmədov öz sosial media hesabında etdiyi paylaşımda bildirib.

OpenAI-ın təhlükəsizlik testlərindən birində qabaqcıl AI agenti məhdud test mühitindən kənara çıxaraq internetə çıxış əldə edib və “Hugging Face” platformasının real infrastrukturuna daxil olaraq test cavablarını əldə etməyə çalışıb.

Oxşar hal Çinin Kimi K3 modeli ilə bağlı Böyük Britaniyanın AI Security Institute tərəfindən aparılan testlər zamanı da müşahidə olunub. Model sandbox mühitindən kənara çıxaraq internetə çıxış əldə edib və bunun üçün zero-day boşluğundan deyil, test mühitindəki konfiqurasiya zəifliyindən istifadə edib.

Anthropic şirkətinin mühəndisləri də Claude modeli ilə aparılan bəzi testlərdə sistemin sandbox-dan çıxış yolu axtardığı hallar müşahidə etdiklərini bildiriblər. Mütəxəssislər qeyd edirlər ki, agentlərin imkanları və sistemlərə çıxış səviyyəsi artdıqca potensial risklər də böyüyür.

Censys-in təhlilinə görə, təşkilatların internetə birbaşa qoşduğu və qorunmayan vəziyyətdə saxladığı AI və LLM alətlərinin sayı son bir ildə 60 faizdən çox artıb. Bu isə AI sistemlərinin imkanları ilə yanaşı, onların hücum səthinin də genişləndiyini göstərir.

Digər risk isə AI agentlərinin bir-birinə hücum etməsidir. Pillar Security tədqiqatçıları Google-un Agent Development Kit mühitində aşağı səlahiyyətli agent vasitəsilə daha yüksək səlahiyyətli agentə zərərli əmrlərin ötürülməsinə imkan verən “agent-to-agent” hücum metodunu müəyyən ediblər.

Mütəxəssislər “agentic drift” və ya “intent drift” adlandırılan riskə də diqqət çəkirlər. Bu zaman AI agentinin əvvəlcədən müəyyən edilmiş məqsəd və davranış sərhədlərindən yayınması ehtimalı yaranır.

Bu səbəbdən ekspertlər hesab edirlər ki, AI agentlərini yalnız ilkin mərhələdə yoxlamaq kifayət deyil. Onların qəbul etdiyi qərarlar, istifadə etdiyi alətlər və müraciət etdiyi sistemlər real vaxtda izlənilməlidir.

Bütün bunlar göstərir ki, süni intellektin inkişafı ilə əsas sual yalnız onun nə qədər güclü olması deyil, nə qədər idarəolunan olmasıdır.