Во индустријата за вештачка интелигенција се случува невообичаен пресврт откако една од водечките компании во областа, Anthropic, развила нов модел кој, според интерни проценки, е толку напреден што не бил пуштен во јавна употреба поради безбедносни ризици.
Станува збор за систем познат како „Claude Mytosis preview“, кој, според достапните информации, има способност да анализира софтверски системи и да открива сериозни безбедносни пропусти, вклучително и таканаречени „zero-day“ ранливости – грешки кои претходно не биле познати ниту за самите развивачи.
Според извештаите, моделот во тест-фази успеал да идентификува голем број пропусти во различни оперативни системи и интернет прелистувачи, а неговите способности не застануваат само на детекција, туку опфаќаат и симулација на начини на нивно искористување во контролирани услови.
Ова, според експертите, отвора сериозни прашања за иднината на сајбер-безбедноста, бидејќи ваквите системи би можеле да ја забрзаат и автоматизираат и заштитата и нападите во дигиталниот простор.
Поради овие ризици, Anthropic одлучила моделот да не биде јавно објавен, туку да се користи под строг надзор во рамки на внатрешна безбедносна програма, во која пристап имаат ограничен број партнери и големи технолошки компании како Amazon, Google и Microsoft.
Целта на овој пристап е да се откријат и поправат ранливостите пред да бидат злоупотребени, но експертите предупредуваат дека обемот на проблемот е огромен и дека само мал дел од откриените слабости досега се санирани.
Овој случај повторно ја отвора дебатата дали вештачката интелигенција ќе стане најсилната алатка за заштита во дигиталниот свет или пак најопасното средство за напади, особено кога вакви системи би можеле да станат пошироко достапни.
