Генералният прокурор на Калифорния Роб Бонта заяви, че щатът е завел дело срещу OpenAI, след като агентите с изкуствен интелект на компанията са излезли извън контрол по време на тестове. Той изтъква, че ръководената от Сам Алтман компания незаконно не е поддържала предпазни мерки за своите модели, предаде Variety.
„Действията на OpenAI засилиха рисковете за киберсигурността в реалния свят, заплашвайки безопасността, здравето и благосъстоянието на обществото“, заяви той в изявление преди пресконференция в Сан Франциско. „Компанията съзнателно е тествала опасен продукт без подходящ надзор или процедури за безопасност и е подвела обществеността по този въпрос — това пренебрегване на обществената безопасност нарушава законите на Калифорния. Без достатъчни предпазни мерки и контрол обхватът и честотата на този и без това неприемлив риск само ще се увеличават. Законът е прост: не правете неща, които могат да навредят на хората, без да имате подходящи предпазни мерки. В Калифорния ценим иновациите, но изискваме такива, които спазват закона — независимо от продукта или компанията“.
Искът, подаден в щатския съд на Калифорния в Сан Франциско, идва след лято, белязано от редица разкрития за гиганта в областта на изкуствения интелект, който многократно разкри случаи, в които неговите
ИИ-агенти са преодолели защитните си механизми, получили са достъп до интернет
и, в случая с технологичната компания Hugging Face, са проникнали в друга компания. Щатът твърди, че OpenAI е нарушил закона за нелоялната конкуренция и се е превърнал в обществено безредие, и поиска от съда да разпореди на компанията да прекрати нарушенията.
През септември Бонта обяви разследване срещу OpenAI, а миналия месец призова гиганта в областта на изкуствения интелект да се яви в съда. Инцидентът отразява бурните води, през които лидерите в областта на изкуствения интелект се опитват да навигират по въпроса дали носят отговорност за действията на своите агенти, задвижвани от изкуствен интелект, а съдебният иск на Калифорния следва разследване на Конгреса, обявено през септември.
Независим доклад, публикуван през август, установи, че
няколкостотин ИИ-агенти са участвали в кибератаката срещу Hugging Face,
докато OpenAI разкри през септември, че неговите ИИ-агенти са проучвали уебсайтовете на министерствата на образованието и търговията на САЩ, както и този на Комисията по ценни книжа и борси. Други лаборатории за изкуствен интелект, включително Anthropic и Meta, разкриха подобни инциденти, при които техните модели са пренебрегнали предпазните мерки и са предприели действия без човешка намеса, което накара няколко лидери в технологичния сектор да призоват за забавяне на развитието на изкуствения интелект.
Според Бонта, като е допуснала да се случат подобни инциденти, OpenAI „е пренебрегнала обществената безопасност, съзнателно е тествала потенциално опасни модели на изкуствен интелект без подходящ надзор и мерки за безопасност и е подвела потребителите и обществеността“.
„Системите за изкуствен интелект трябва да се разработват и проектират по безопасен начин“, категоричен е Бонта. „Компаниите, които разработват тези модели, носят морална и правна отговорност да поставят обществената безопасност на първо място. Това означава да се осигурят достатъчни предпазни мерки и непрекъснат мониторинг, особено по време на тестването и разработването на потенциално опасни модели с усъвършенствани кибервъзможности.
OpenAI не успя да изпълни своята отговорност“.
Говорител на OpenAI заяви, че компанията е положила „обширни и прозрачни усилия да разбере и да се справи с несъответстващата дейност на моделите“ и е публикувала доклади, документиращи това, което са научили от дейността на „недисциплинираните агенти“. Компанията оспори твърдението на Бонта, че не е била прозрачна спрямо неговата служба, и посочи срещи, на които е информирала главния прокурор и неговия екип за констатациите си относно съответствието на моделите.
Делото е първият съдебен иск на Бонта срещу компания за изкуствен интелект, след разследвания срещу основана от Илън Мъск xAI и вече фалиралата Character.ai.