OpenAI представи нова версия на своя водещ чатбот ChatGPT, предназначена специално за тийнейджъри, с по-строги механизми за защита и наблюдение. Компанията е подложена на критики и съдебни искове заради твърдения, че чатботът е допринесъл за самоубийства на някои потребители, пишат от bTV.
Новият режим, наречен „ChatGPT for Teens“, се активира автоматично за потребители, които при регистрация посочат възраст между 13 и 17 години, както и за акаунти, които според компанията вероятно принадлежат на непълнолетни въз основа на начина на използване или възрастта на профила.
Повечето от защитните механизми вече съществуваха за акаунти на непълнолетни, включително ограничения при съдържание, свързано със самонараняване, насилие, хранителни разстройства и графично сексуално съдържание.
Програмата предлага и по-чести напомняния за почивки, т.нар. „тихи часове“, през които достъпът е ограничен, както и режим за учене. При него ChatGPT отговаря с насочващи въпроси вместо директно да предоставя готови отговори, „за да помогне на тийнейджърите да разберат материала“, съобщи OpenAI.
Новият режим за тийнейджъри се въвежда на фона на нарастващ правен и регулаторен натиск върху OpenAI. Компанията е ответник по няколко дела за неправомерно причинена смърт, включително иск, подаден от родителите на 16-годишния Адам Рейн. Според тях тийнейджърът е посегнал на живота си, след като ChatGPT му е предоставил информация за методи за самоубийство.
Федералната търговска комисия на САЩ също започна проверка на чатботове с изкуствен интелект, които функционират като дигитални спътници, като вниманието е насочено към потенциалните рискове за деца и тийнейджъри.
И други компании за изкуствен интелект са обект на критики заради проблеми, свързани с използването на техните модели от непълнолетни. Някои, сред които конкурентът Anthropic, са избрали да ограничат достъпа до своите модели само за пълнолетни потребители.
