OpenAI прави промени в популярния си чатбот след съдебен иск, в който се твърди, че тийнейджър, самоубил се тази пролет, е разчитал на ChatGPT за подкрепа, пише Bloomberg, цитиран от БТВ.
Компанията заяви, че ще актуализира ChatGPT, за да разпознава по-добре и да
реагира на различни начини, по които хората могат да изразят психическо страдание -
като обяснява опасностите от лишаването от сън и предлага на потребителите да си починат, ако споменат, че се чувстват непобедими след два поредни дни без сън. Компанията също така твърди, че ще засили мерките около разговорите за самоубийство.
Освен това OpenAI планира да въведе контрол, който
позволява на родителите да определят как децата им използват ChatGPT.
Съобщението на компанията идва в ден, в който родителите на Адам Рейн, 16-годишен ученик от Калифорния, заведоха дело срещу компанията и главния изпълнителен директор Сам Алтман. В него се твърди, че ChatGPT систематично е изолирал тийнейджърът от семейството му и му е помогнал да планира смъртта си.
Делото е допълнение към
редица доклади за активни потребители на чатботове с опасно поведение.
Повече от 40 главни щатски прокурори са издали предупреждение тази седмица до над десет водещи компании за изкуствен интелект, че са законово задължени да защитават децата от сексуално неподходящи взаимодействия с чатботове.
„Изказваме най-дълбоките си съболезнования на семейство Рейн в този труден момент и преглеждаме иска“, коментира говорител на OpenAI.
Пуснат на пазара в края на 2022 г., ChatGPT даде началото на бум в генеративния изкуствен интелект. В годините след това хората все по-често използват чатботове за всичко - от програмиране до потенциални терапевтични сесии, а компании като OpenAI пуснаха по-мощни AI модели. ChatGPT остава изключително популярен и вече има повече от 700 млн. потребители седмично.
