Поранешниот извршен директор на Google, Ерик Шмит, предупреди дека брзиот развој на вештачката интелигенција во следните неколку години би можел да доведе до системи чие функционирање луѓето повеќе нема целосно да го разбираат.
На прашањето што треба да се направи доколку вештачката интелигенција достигне такво ниво, Шмит дал краток одговор: „Исклучете ја“.
Според него, три технолошки трендови би можеле значително да ги променат можностите на ВИ – огромните контекстуални прозорци, развојот на автономни ВИ агенти и способноста текстуалните инструкции директно да се претвораат во функционален софтвер.
Шмит смета дека во рок од пет години напредните системи би можеле да решаваат исклучително сложени проблеми преку процеси составени од стотици или илјадници последователни чекори. Потенцијалната примена ја гледа во науката, медицината, развојот на нови материјали и климатските истражувања.
Особено внимание посветува на ВИ агентите – специјализирани системи способни самостојно да обработуваат информации, да поставуваат хипотези и да ги користат резултатите од претходните задачи за следните чекори.
Според неговото сценарио, во иднина би можеле истовремено да функционираат милиони вакви агенти кои меѓусебно ќе соработуваат. Шмит оди и чекор понатаму, наведувајќи ја можноста таквите системи да развијат сопствен начин на комуникација кој за луѓето би можел да стане тешко разбирлив.
Токму таквото сценарио, според него, бара сериозно внимание кон контролата и безбедноста на напредните системи.
Предупредувањата за ризиците од сè поавтономни системи не доаѓаат само од Шмит. Дел од истражувачите и раководителите во ВИ-индустријата јавно дискутираат за потребата од посилни безбедносни механизми и внимателен развој на системите со сè поголема автономија.
Сепак, проценките за идниот развој значително се разликуваат. Дел од експертите предупредуваат на сериозни долгорочни ризици, додека други сметаат дека најдраматичните сценарија се шпекулативни и дека не треба да се претставуваат како сигурна иднина.
