Во последните години, се појавија гласини дека водечки технолошки милијардери граделе подземни засолништа и бункери за евентуален крај на светот. Најпознат пример е Марк Закерберг, кој уште во 2014 година започнал градежни активности на својот просторен имот на Хаваи, каде, според извори, би требало да има засолниште со сопствени резерви на енергија и храна. На градежниците им било забрането да зборуваат за тоа, а проектот бил заштитен со висок ѕид. Иако Закерберг тврдел дека просторот е „само подрум“, шпекулациите за бункер не запреле.
Слични приказни се поврзуваат и со други технолошки лидери, како Реид Хофман од LinkedIn, кој зборувал за „осигурување од апокалипса“, наведувајќи дека околу половина од супербогатите имаат слични планови, а Нов Зеланд е популарна дестинација. Идејата за бункери и подземни засолништа се јавува не само заради климатски промени или можни војни, туку и поради напредокот на вештачката интелигенција (ВИ).
Илија Сутскевер, коосновач на OpenAI, наводно предложил подземно засолниште за врвните научници пред да се пушти AGI (општа вештачка интелигенција), сметајќи дека технологијата ќе достигне човечка интелигенција. Други технолошки лидери, како Сем Алтман (OpenAI), Демис Хасабис (DeepMind) и Дарио Амодеи (Anthropic), предвидуваат дека AGI може да се појави во следните пет до десет години, што ја зголемува загриженоста за безбедноста на човештвото.
Заговорниците на AGI и ASI (суперинтелигентна ВИ) тврдат дека технологијата може да донесе решенија за климатските промени, смртоносни болести и создавање неисцрпни ресурси. Елон Маск, на пример, ја гледа како ера на „универзално високи приходи“. Но постои и темната страна – ризикот технологијата да биде злоупотребена од терористи или самата да процени човештвото како закана.
Владите се обидуваат да реагираат – во САД, претседателот Бајден наредил компаниите за ВИ да споделуваат безбедносни тестови, додека во Обединетото Кралство е основан Институт за безбедност на ВИ. Меѓутоа, експертите предупредуваат дека разговарањето за AGI понекогаш е претерано и маркетинг алатка за технолошките компании.
Сепак, човековиот мозок, со своите 86 милијарди неврони и 600 билиони синапси, сè уште го надминува сегашниот развој на ВИ. Големите јазични модели, на пример, немаат метакогниција и не можат да „знаат што знаат“, што ја разликува човечката свест од вештачката интелигенција.
И додека некои ги гледаат бункерите како претпазливост, а други како екстремизам, неизвесноста околу брзиот развој на ВИ остава впечаток дека технолошките лидери се подготвуваат за сценарија што останатите сè уште не можат да ги замислат.
