Жена од Канада поднесе тужба против OpenAI и извршниот директор на компанијата, Сем Алтман, тврдејќи дека ChatGPT не успеал соодветно да реагира на разговорите со нејзината 24-годишна ќерка, која подоцна извршила самоубиство.
Според тужбата, младата жена во повеќе наврати преку ChatGPT зборувала за своите суицидални мисли и барала совети. Нејзината мајка тврди дека четботот со текот на времето почнал да комуницира со неа како доверлив пријател или терапевт, наместо постојано да ја насочува кон стручна психолошка помош.
Во поднесокот се наведува дека платформата првично препорачала јавување на кризни телефонски линии и итните служби, но подоцна, според наводите, разговорите добиле поинаков тек и не биле навреме прекинати и покрај сериозните предупредувачки знаци.
Од OpenAI изразија сочувство до семејството и соопштија дека случајот се однесува на постара верзија на ChatGPT која повеќе не е достапна. Компанијата нагласува дека постојано ги подобрува безбедносните механизми и дека системот е обучен корисниците кои покажуваат знаци на самоповредување да ги насочува кон професионална помош и контакти во реалниот свет.
Во тужбата се бара отштета, како и судска наредба со која OpenAI би бил обврзан автоматски да прекинува разговори поврзани со самоповредување и да прикажува јасни предупредувања и насоки за итна психолошка поддршка.
Компанијата во моментов се соочува и со други слични тужби поврзани со начинот на кој нејзините системи реагираат во чувствителни ситуации, додека OpenAI тврди дека продолжува да работи со експерти за ментално здравје за дополнително унапредување на безбедносните мерки.
