Вештачката интелигенција се развива со огромна брзина, а паралелно со нејзините можности расте и дебатата за ризиците што може да ги донесе. Дел од истражувачите предупредуваат дека во екстремни сценарија последиците би можеле да бидат катастрофални, додека други сметаат дека најцрните прогнози сè уште немаат доволно цврсти докази.
Меѓу најчесто посочуваните опасности се злоупотребата на ВИ за развој на биолошко оружје, масовни кибернапади, нејзино вклучување во процеси поврзани со нуклеарно оружје и можноста идните, значително поспособни системи да дејствуваат на начин што не е во согласност со човечките намери.
Кај нуклеарното оружје, истражувачите посочуваат дека сегашните системи на ВИ не можат самостојно да започнат нуклеарна војна поради постојните механизми за контрола. Загриженоста е насочена кон идни сценарија во кои ВИ би добила поголема улога во критични процеси на одлучување.
Сличен е проблемот и со биологијата. Истите способности што можат да помогнат во развој на лекови, вакцини и терапии потенцијално можат да бидат злоупотребени за опасни цели.
Посебно внимание привлекуваат и киберризиците. Напредни ВИ-системи би можеле да им овозможат на напаѓачите да автоматизираат операции во огромен обем, а потенцијални цели би биле електроенергетски мрежи, финансиски системи, транспорт и друга критична инфраструктура.
Еден од најдискутираните долгорочни ризици е таканаречената „неусогласеност“ – ситуација во која многу способен систем добива одредена цел, но ја исполнува на начин што не бил предвиден од луѓето и може да предизвика сериозни последици.
Во индустријата исто така постојат предупредувања дека безбедносните механизми мора да го следат темпото со кое се зголемуваат способностите на моделите. Сем Алтман изјави дека светот „со право се плаши“ од технологијата, но истовремено изрази уверување дека развојот може да се одвива со соодветни безбедносни ограничувања.
Сепак, меѓу експертите нема консензус дека најекстремните сценарија навистина ќе се остварат. Дел од нив сметаат дека се пренагласени, додека други предупредуваат дека неизвесноста сама по себе е причина ризиците сериозно да се истражуваат.
Она што е неспорно е дека способностите на ВИ продолжуваат брзо да напредуваат, поради што прашањето како технологијата да остане безбедна и под човечка контрола станува сè поважно.
