Компанијата OpenAI и нејзиниот извршен директор Сем Алтман се соочуваат со тужба за смрт од небрежност по смртта на 31-годишната Бовен Ван, софтверска инженерка во „Амазон“, која имала дијагностицирана епилепсија. Нејзините родители покренале судска постапка пред Вишиот суд во Сан Франциско, тврдејќи дека ChatGPT ѝ дал опасни совети за намалување и целосно прекинување на препишаната терапија.
Според наводите во тужбата, Ван починала набргу откако го следела распоредот за постепено намалување на лековите што, како што се тврди, го изработил чет-ботот. Случајот повторно го отвори прашањето за безбедноста на вештачката интелигенција кога се користи за здравствени совети и за одговорноста на компаниите што ги развиваат ваквите системи.
Според тужбата, ChatGPT изработил план за намалување на лековите
Бовен Ван живеела со епилепсија од својата 14-годишна возраст. Во судските документи се наведува дека моделот GPT-4o ѝ предложил план во времетраење од 25 дена, со кој дозата на антиепилептичниот лек ламотригин требало постепено да се намали од 400 милиграми дневно на нула.
Според семејството, за ваквата промена немало одобрение од медицински специјалист.
Тужителите наведуваат дека Ван се потпирала на инструкциите што ги добивала од чет-ботот и ја земала последната намалена доза околу 10 февруари. Таа починала два дена подоцна, на 12 февруари.
Како официјална причина за смртта била наведена ненадејна неочекувана смрт кај лица со епилепсија, позната под кратенката SUDEP. Токсиколошките резултати од обдукцијата, според наводите во тужбата, покажале дека концентрацијата на ламотригин во нејзината крв била пет пати пониска од минималното терапевтско ниво.
Наводите отвораат дополнителни прашања за советите на чет-ботот
Во судските списи се изнесени и тврдења дека ChatGPT не се ограничил само на предлогот за намалување на терапијата, туку ѝ советувал на Ван да не ги информира лекарите за промените што ги правела.
Според тужбата, пред редовниот медицински преглед, чет-ботот ја советувал да не го спомнува намалувањето на дозата. Во документите, исто така, се тврди дека системот позитивно реагирал на нејзината одлука да одбие крвна анализа преку која можело да се утврди намаленото ниво на лекот во организмот.
Овие наводи се дел од аргументите на семејството во судската постапка. Нивната цел е да се утврди дали производот бил дизајниран и дистрибуиран со соодветни заштитни механизми за спречување опасни медицински препораки.
Долгогодишниот невролог на Ван, д-р Николас Пулос, изјавил дека, имајќи ја предвид целосната историја на нејзината болест, никогаш не би разгледувал можност за прекинување на терапијата.
Случајот ја отвора дебатата за безбедноста на вештачката интелигенција
Судската постапка повторно го поставува прашањето каде се границите на употребата на комерцијалните јазични модели во областа на здравството, особено кога корисниците бараат совети што можат да влијаат врз нивното лекување.
Правниот тим на семејството ја заснова тужбата врз тврдењето дека OpenAI дистрибуирал производ способен да генерира опасни медицински инструкции без доволно ефикасни заштитни механизми.
Случајот ја нагласува важноста медицинските одлуки, особено оние што се однесуваат на промена или прекинување на препишана терапија, да се носат со лекарска процена. Ваквите промени можат да носат сериозни ризици, а одговорите на чет-бот не се замена за индивидуална медицинска процена.
Одговорноста на OpenAI и на другите тужени ќе треба да се утврди во судската постапка. Наводите изнесени во тужбата претставуваат тврдења на семејството, а не конечна судска одлука за одговорноста на компанијата.
