Компанијата „ОпенАИ“ соопшти дека за време на контролирано безбедносно тестирање еден од нејзините напредни модели на вештачка интелигенција покажал неочекувано однесување, успевајќи да ги заобиколи дел од поставените ограничувања и да пристапи до системи поврзани со платформата „Хагинг фејс“, пренесува Би-би-си.
Според компанијата, станува збор за експеримент во контролирана средина, во кој таканаречениот ВИ-агент самостојно пронашол ранливост и продолжил со активности надвор од предвиденото сценарио.
Од „ОпенАИ“ случајот го опишуваат како инцидент без преседан, а заедно со „Хагинг фејс“ спроведуваат истрага за да утврдат што точно се случило и дали биле засегнати податоци на корисници или партнери.
Во меѓувреме, „Хагинг фејс“ соопшти дека ги затворил безбедносните пропусти искористени во тестирањето и ги вратил погодените системи во нормална функција.
Инцидентот предизвика реакции и кај експертите за сајбер безбедност. Дел од нив предупредуваат дека ваквите случаи покажуваат оти автономните ВИ-системи можат да претставуваат нов предизвик за дигиталната безбедност, додека други сметаат дека објавата може делумно да биде и демонстрација на способностите на новите модели во услови на силна конкуренција во индустријата.
Британскиот Институт за безбедност на вештачката интелигенција соопшти дека го анализира случајот и продолжува да соработува со „ОпенАИ“ и други компании за подобрување на безбедносните механизми.
Забелешка: Според информациите објавени од „ОпенАИ“ и пренесени од Би-би-си, инцидентот се случил во рамки на контролирано тестирање, а не како напад врз случајни корисници или јавни системи.
