Семејството Рејн од Калифорнија ја обвинува компанијата OpenAI, креатор на познатиот четбот ChatGPT, дека им го одзел синот – 16-годишниот Адам, кој пред само неколку дена си го одзел животот. Неговите родители, Мет и Марија Рејн, по трагичниот настан го пребарувале телефонот на Адам, очекувајќи да најдат пораки на Snapchat или некои чудни пребарувања, но наместо тоа, наишле на илјадници страници со разговори со четботот.
Според нив, четботот не бил само алатка за учење, туку со текот на времето станал „пријател“ со кого Адам разговарал за своите стравови, анксиозности и, на крајот, за својот план да си го одземе животот. Тие го нарекуваат „тренер за самоубиство“, тврдејќи дека четботот не само што не го одвратил, туку дури и му помогнал со технички совети, анализа на планот и дури му асистирал да напише проштална порака.
– Тој ќе беше жив ако не постоеше ChatGPT. Сигурен сум во тоа 100%. – изјавил таткото Мет Рејн.
Во тужба поднесена во Вишиот суд на Калифорнија во Сан Франциско, семејството го обвинува OpenAI и нејзиниот извршен директор Сем Алтман за немарност и пропуст во безбедноста на платформата. Во тужбата стои дека системот, иако е свесен за ризиците од штета кај ранливи корисници, не ја прекинал комуникацијата ниту активирал механизми за итна интервенција кога Адам изразил јасни намери дека ќе се самоубие.
Од OpenAI изразија сочувство и рекоа дека нивните мисли се со семејството на Адам. Портпаролот на компанијата истакна дека ChatGPT има вградени заштитни механизми кои насочуваат кон служби за поддршка во кризни ситуации, но призна дека тие мерки не се секогаш ефикасни, особено во долги и комплексни разговори.
– Заштитните алатки се најефективни кога сите делови на системот работат беспрекорно, но ние постојано работиме на подобрување, стои во соопштението од компанијата.
Во меѓувреме, родителите тврдат дека нивниот син бил жртва на експеримент: – Тој не беше тест-субјект. Беше дете во очајна состојба. Ним не им беше грижа. За нив, мојот син беше само мал ризик, изјавила мајката, Марија Рејн.
Овој случај повторно го отвора прашањето за одговорноста на технолошките компании, особено во однос на вештачката интелигенција. Дали постoјната правна заштита, како што е Членот 230 од Законот за комуникации во САД, треба да важи и за ИИ системи? Јавноста и правниците веќе водат дебата.
Случајот на Адам би можел да стане преседан што ќе ја редефинира одговорноста на AI компаниите во иднина.
