Изкуственият интелект се развива толкова бързо, че има над 10% вероятност в рамките на следващото десетилетие да доведе до изчезването на човечеството. Това предупреждение отправя Еван Хюбинджър, водещ изследовател по безопасността на AI в Anthropic, пише The Business Insider. Според него рискът от моделите, които съществуват днес, все още е „нисък“. Притеснението му обаче е свързано с това докъде може да стигне технологията, ако бъде способна сама да подобрява възможностите си. Хюбинджър заяви в публикация в X, че в Anthropic „искрено вярват“, че изкуственият интелект представлява риск за оцеляването на човешкия вид.
„Вярвам, че Anthropic полага максимални усилия, но все още нямаме план за решаване на проблема с подравняването на суперинтелигентността и очевидно не сме на път да го постигнем“, пише той. Публикацията му е била видяна 9,6 млн. пъти, посочват от bTV.
Предупреждението идва на фона на информация на Financial Times, според която Anthropic е задържала най-новия си модел от Института за безопасност на AI – организацията, която тества и оценява рисковете от новите системи с изкуствен интелект.
Предупрежденията за потенциалните опасности не са нови.
Още през 2023 г. ръководители на OpenAI, Google DeepMind и Anthropic заявиха, че технологията може да създаде сериозни рискове за човечеството. През последните седмици обаче тонът става все по-тревожен. Причината са редица случаи, които показват колко трудно може да бъде контролиран изкуственият интелект, когато му бъде дадена възможност да действа самостоятелно.
През лятото са регистрирани поредица от инциденти, при които автономни агенти – системи, способни сами да изпълняват задачи – са били използвани за кибератаки. OpenAI, Anthropic и Meta съобщиха за пробиви, извършени чрез техни AI инструменти.
През септември главният научен директор на OpenAI Якуб Пахоцки призова за „изключителна предпазливост“ при развитието на технологията. Според него може да се наложат по-сериозни мерки, за да се гарантира, че хората ще запазят контрола върху бъдещето.
На този фон все повече представители на технологичния сектор настояват развитието на изкуствения интелект да бъде забавено или поставено под по-строг контрол. Сред тях са ръководителите на Anthropic Дарио Амодеи и Джаред Каплан.В открито писмо, подписано от 1300 служители на компании, те призовават правителството на САЩ да подкрепи международни усилия за създаване на технически и управленски механизми, които да ограничат рисковете от най-напредналите системи.
Основният въпрос, който все по-често стои пред индустрията, е не само колко мощен може да стане изкуственият интелект, а дали хората ще успеят да запазят контрола над него, когато той стане значително по-интелигентен и автономен от днешните системи.
