Основачот на OpenAI, Сем Алтман, упати сериозно предупредување: светот се приближува до голема криза со измами, поттикната од напредната вештачка интелигенција што овозможува злонамерни лица да се претставуваат како други – без да бидат откриени.
На настан организиран од Федералните резерви на САД, Алтман изјави:
„Едно нешто што ме ужаснува е тоа што сè уште постојат финансиски институции кои дозволуваат само гласовна верификација на идентитетот. Ќе кажете фраза и тие одобруваат трансфер на пари. Тоа е лудо.“
Тој додаде дека вештачката интелигенција веќе ги надминала повеќето постоечки безбедносни системи, со исклучок на лозинките, кои сè уште остануваат поотпорни.
Вашингтон се подготвува за регулација на АИ – OpenAI отвора канцеларија во главниот град
По интензивниот разговор со водечките луѓе од американските финансиски институции, Алтман го најави и новиот стратешки потег на OpenAI: 👉 Компанијата отвора прва канцеларија во Вашингтон на почетокот на следната година. Ќе работат околу 30 луѓе, предводени од Чан Парк и Џо Ларсон, кој доаѓа од одбранбената компанија Anduril.
Новата канцеларија ќе има три цели:
- Едукација на службеници и наставници за АИ.
- Презентација на нови технологии.
- Истражување на влијанието на вештачката интелигенција врз економијата и општеството.
Критика до постојните безбедносни системи – и до Трамп
Иако е отворен за соработка со владата, Алтман се спротивставува на строги регулативи што ги предлага администрацијата на Доналд Трамп. Во јули, Сенатот гласаше за укинување на контроверзна одредба со која се ограничуваа правата на поединечните сојузни држави да носат свои АИ закони во следните 10 години.
Измамите со АИ веќе се случуваат – FBI и родителите предупредуваат
Алтман не е сам во својата загриженост. ФБИ уште минатата година предупреди за клонирање на глас и видео, користено за манипулации и измами.
Неколку родители пријавиле дека примиле повици во кои злонамерни актери имитирале глас на нивните деца, тврдејќи дека се во опасност – класичен пример за високо реалистична АИ измама.
Дури и државниот секретар Марко Рубио бил имитиран – АИ-генерираниот глас бил користен за комуникација со министри и гувернери.
Наскоро нема да можеме да разликуваме реалност од фалсификат
„Денес е гласовен повик, утре ќе биде видео повик или FaceTime кој изгледа сосема реално. Луѓето нема да можат да го разликуваат,“ изјави Алтман.
Решение? The Orb – уред што докажува дека сте човек
OpenAI не развива алатки за имитација на луѓе, тврди Алтман, но затоа ја поддржува технологијата наречена The Orb – уред кој овозможува верификација на човечки идентитет во дигитален свет кој е сѐ повеќе преплавен со содржини создадени од АИ.
Крајната закана: суперинтелигентни системи во рацете на непријателски држави
Алтман изрази и длабока загриженост за иднината на таканаречените „суперинтелигентни“ АИ системи, особено ако Кина или други непријателски држави ги развијат први и ги искористат за сајбер-напади, саботажа на енергетска мрежа или биолошко оружје.
„Светот мора да се подготви – и тоа многу побрзо одошто мислиме,“ заклучи Алтман.
