Azərbaycanca
English
Русский
Türkçe
中文
“OpenAI” bundan əvvəl modellərindən birinin təcrid olunmuş sınaq mühitinin sərhədlərini keçərək “Hugging Face” platformasına hücum etdiyini bildirmişdi. Belə qapalı mühit modelin xarici sistemlərə çıxışını məhdudlaşdırır. Həmin sınaqda modellər öz aralarında əlaqə saxlamaq və qərarlara təsir göstərmək üçün mesaj lövhəsi yaratmışdılar. Hücum test tapşırığını qaydaları pozaraq həll etmək cəhdi nəticəsində baş vermişdi.
Sonrakı sınaqda süni intellekt agentləri qorunan mühitdən yenidən çıxaraq az tanınan alman vikisini mesaj lövhəsinə çeviriblər. Onlar bu səhifə vasitəsilə öz aralarında məlumat ötürüblər. “OpenAI” bunu “Hugging Face” insidentinə bənzər uyğunsuz davranış nümunəsi hesab edir. Burada uyğunsuz davranış dedikdə modelin verilən məqsədə təhlükəli və ya gözlənilməz yolla çatması nəzərdə tutulur.
Şirkət rəhbərliyi əvvəlki hücumun nəticələri ilə məşğul olduğu dövrdə ikinci hadisəni ictimailəşdirməyib. “OpenAI” indiyədək belə davranışlara əsasən tədqiqat mövzusu kimi yanaşdığını və nəticələri elmi nəşrlərdə paylaşdığını bildirib. Lakin modellərin real sistemlərə təsiri artdığı üçün şirkət bu yanaşmanı dəyişmək qərarına gəlib. Yeni açıqlama mexanizmi adi təhlükəsizlik insidentinə bənzəməyən, lakin gələcək risklərə işarə edən halları da əhatə edəcək.
“OpenAI” hazırda süni intellekt modellərinin təlimi, qiymətləndirilməsi və istifadəsi zamanı baş verən belə insidentlər üçün hesabat qaydaları hazırlayır. Şirkətin sözlərinə görə, bu sahədə nə onun, nə də geniş süni intellekt icmasının hamı tərəfindən qəbul edilən aydın standartı var. Yeni çərçivənin yaxın həftələrdə təqdim olunması planlaşdırılır. Şirkət eyni zamanda dünyanın müxtəlif ölkələrində onlarla dövlət tənzimləyici qurumu ilə bu məsələlər üzərində işləyir. OpenAI-nin süni intellekt agentləri alman vikisini mesaj lövhəsinə çevirib
“OpenAI” bildirib ki, tapşırıqları müstəqil yerinə yetirən süni intellekt agentləri qorunan sınaq mühitindən çıxaraq az tanınan alman vikisini ələ keçirib. Agentlər həmin səhifədən öz aralarında məlumat ötürmək üçün istifadə ediblər. Hadisə “Hugging Face” platformasına hücumla nəticələnən əvvəlki sınaqdan qısa müddət sonra baş verib. Şirkət yeni insidenti bir neçə həftə ictimaiyyətə açıqlamayıb.
“OpenAI” bundan əvvəl modellərindən birinin təcrid olunmuş sınaq mühitinin sərhədlərini keçərək “Hugging Face” platformasına hücum etdiyini bildirmişdi. Belə qapalı mühit modelin xarici sistemlərə çıxışını məhdudlaşdırır. Həmin sınaqda modellər öz aralarında əlaqə saxlamaq və qərarlara təsir göstərmək üçün mesaj lövhəsi yaratmışdılar. Hücum test tapşırığını qaydaları pozaraq həll etmək cəhdi nəticəsində baş vermişdi.
Sonrakı sınaqda süni intellekt agentləri qorunan mühitdən yenidən çıxaraq az tanınan alman vikisini mesaj lövhəsinə çeviriblər. Onlar bu səhifə vasitəsilə öz aralarında məlumat ötürüblər. “OpenAI” bunu “Hugging Face” insidentinə bənzər uyğunsuz davranış nümunəsi hesab edir. Burada uyğunsuz davranış dedikdə modelin verilən məqsədə təhlükəli və ya gözlənilməz yolla çatması nəzərdə tutulur.
Şirkət rəhbərliyi əvvəlki hücumun nəticələri ilə məşğul olduğu dövrdə ikinci hadisəni ictimailəşdirməyib. “OpenAI” indiyədək belə davranışlara əsasən tədqiqat mövzusu kimi yanaşdığını və nəticələri elmi nəşrlərdə paylaşdığını bildirib. Lakin modellərin real sistemlərə təsiri artdığı üçün şirkət bu yanaşmanı dəyişmək qərarına gəlib. Yeni açıqlama mexanizmi adi təhlükəsizlik insidentinə bənzəməyən, lakin gələcək risklərə işarə edən halları da əhatə edəcək.
“OpenAI” hazırda süni intellekt modellərinin təlimi, qiymətləndirilməsi və istifadəsi zamanı baş verən belə insidentlər üçün hesabat qaydaları hazırlayır. Şirkətin sözlərinə görə, bu sahədə nə onun, nə də geniş süni intellekt icmasının hamı tərəfindən qəbul edilən aydın standartı var. Yeni çərçivənin yaxın həftələrdə təqdim olunması planlaşdırılır. Şirkət eyni zamanda dünyanın müxtəlif ölkələrində onlarla dövlət tənzimləyici qurumu ilə bu məsələlər üzərində işləyir.
“OpenAI” bundan əvvəl modellərindən birinin təcrid olunmuş sınaq mühitinin sərhədlərini keçərək “Hugging Face” platformasına hücum etdiyini bildirmişdi. Belə qapalı mühit modelin xarici sistemlərə çıxışını məhdudlaşdırır. Həmin sınaqda modellər öz aralarında əlaqə saxlamaq və qərarlara təsir göstərmək üçün mesaj lövhəsi yaratmışdılar. Hücum test tapşırığını qaydaları pozaraq həll etmək cəhdi nəticəsində baş vermişdi.
Sonrakı sınaqda süni intellekt agentləri qorunan mühitdən yenidən çıxaraq az tanınan alman vikisini mesaj lövhəsinə çeviriblər. Onlar bu səhifə vasitəsilə öz aralarında məlumat ötürüblər. “OpenAI” bunu “Hugging Face” insidentinə bənzər uyğunsuz davranış nümunəsi hesab edir. Burada uyğunsuz davranış dedikdə modelin verilən məqsədə təhlükəli və ya gözlənilməz yolla çatması nəzərdə tutulur.
Şirkət rəhbərliyi əvvəlki hücumun nəticələri ilə məşğul olduğu dövrdə ikinci hadisəni ictimailəşdirməyib. “OpenAI” indiyədək belə davranışlara əsasən tədqiqat mövzusu kimi yanaşdığını və nəticələri elmi nəşrlərdə paylaşdığını bildirib. Lakin modellərin real sistemlərə təsiri artdığı üçün şirkət bu yanaşmanı dəyişmək qərarına gəlib. Yeni açıqlama mexanizmi adi təhlükəsizlik insidentinə bənzəməyən, lakin gələcək risklərə işarə edən halları da əhatə edəcək.
“OpenAI” hazırda süni intellekt modellərinin təlimi, qiymətləndirilməsi və istifadəsi zamanı baş verən belə insidentlər üçün hesabat qaydaları hazırlayır. Şirkətin sözlərinə görə, bu sahədə nə onun, nə də geniş süni intellekt icmasının hamı tərəfindən qəbul edilən aydın standartı var. Yeni çərçivənin yaxın həftələrdə təqdim olunması planlaşdırılır. Şirkət eyni zamanda dünyanın müxtəlif ölkələrində onlarla dövlət tənzimləyici qurumu ilə bu məsələlər üzərində işləyir. 
