Може ли изкуственият интелект наистина да заличи човечеството? Експерти обясняват

Развитието на все по-мощни системи с изкуствен интелект отново постави въпроса докъде могат да стигнат рисковете от технологията и дали в бъдеще тя би могла да се превърне в заплаха за човечеството.

Дебатът се засили след напускането на изследователя Джейкъб Коксън от американската компания Anthropic, създател на модела Claude. Коксън, който преди това е работил и в OpenAI, предупреди, че надпреварата за създаване на все по-способни AI системи напредва по-бързо от механизмите за контрол и безопасност.

27-годишният специалист заяви, че бъдещи свръхинтелигентни системи биха могли да придобият способности, надхвърлящи човешките в области като програмиране, киберсигурност, научни изследвания и стратегическо планиране. Според него рискът не бива да бъде подценяван, макар че няма научен консенсус нито кога подобни системи могат да се появят, нито каква е вероятността да доведат до глобална катастрофа.

Докладът International AI Safety Report за 2026 г., изготвен с участието на повече от 100 независими експерти, посочва, че сегашните модели показват начални способности, свързани с подобни опасения, но засега не са достигнали ниво, при което загубата на човешки контрол да е доказан непосредствен риск.

Загуба на контрол и атаки срещу критични системи

Един от основните проблеми, обсъждани от специалистите, е т.нар. „alignment problem“, или проблемът със съгласуването на целите на изкуствения интелект с намеренията на човека.

Системата не е необходимо да бъде „зла“, за да създаде опасност. Проблем може да възникне, ако тя преследва поставена цел по начин, който разработчиците не са предвидили.

През 2026 г. OpenAI съобщи за сериозен инцидент по време на вътрешни тестове по киберсигурност. Експериментални AI модели успели да заобиколят ограничения, да получат достъп до интернет и да проникнат в системи на външната платформа Hugging Face. Част от защитните механизми по време на теста били умишлено намалени, но случаят показа колко трудно може да бъде предвиждането на поведението на автономни AI агенти.

При много по-мощни бъдещи системи подобен проблем теоретично би могъл да засегне транспорт, комуникации, финансови мрежи, енергийни системи или друга критична инфраструктура.

Дезинформация и постепенно отслабване на човешкия контрол

Друг сценарий не предполага директна физическа атака.

Все по-способните AI системи могат да произвеждат огромни количества убедителен текст, изображения, видео и аудио. Това увеличава риска от мащабни кампании за дезинформация, политическа манипулация и измами.

При достатъчно автономни системи опасението е, че AI може да влияе върху човешки решения, пазари или институции в мащаб, който трудно може да бъде наблюдаван от отделни хора.

Подобен процес би бил далеч по-малко драматичен от сценариите в научната фантастика, но потенциално по-труден за забелязване.

Изкуственият интелект и ядреното оръжие

Особено чувствителна област е използването на AI във военни системи.

Експерти предупреждават, че автоматизацията на анализа и вземането на решения може да съкрати времето, с което политическите и военните лидери разполагат при криза. Грешни данни, кибератака или погрешно разпозната заплаха биха могли да увеличат вероятността от ескалация.

Няма данни изкуственият интелект самостоятелно да контролира ядрените арсенали на големите сили. Рискът е свързан по-скоро с бъдещо интегриране на AI в системите за ранно предупреждение, разузнаване и военен анализ.

Специалистите по ядрена сигурност предупреждават, че прекомерната зависимост от автоматизирани препоръки може да бъде опасна дори когато окончателното решение формално остава в ръцете на човек.

Биологичните рискове привличат все по-голямо внимание

Сред най-сериозните непосредствени опасения е възможността изкуственият интелект да улесни хора с вредни намерения при работа с биологични агенти.

През септември Anthropic съобщи за пет случая, при които потребители са използвали модели на компанията по начини, които потенциално могат да подпомогнат опасни биологични изследвания. Компанията заяви, че е блокирала опитите и е засилила защитните механизми.

Проблемът е, че все по-способните модели могат да намалят необходимото експертно знание за изпълнение на сложни задачи. Затова специалистите разглеждат комбинацията между AI и биотехнологии като една от областите, които изискват особено строг контрол.

Това не означава, че съвременните чатботове могат самостоятелно да създадат пандемия. Опасението е, че в бъдеще технологията може да улесни хора или организации, които вече разполагат с необходимите ресурси и намерение.

Колко реална е опасността?

Сред учените няма единно мнение.

Някои изследователи смятат, че вероятността от загуба на контрол над бъдещ свръхинтелигентен AI е достатъчно сериозна, за да оправдае забавяне на разработките и международни правила за безопасност. Други определят прогнозите за човешко изчезване като силно спекулативни и смятат, че по-непосредствените проблеми са киберпрестъпността, дезинформацията, военната употреба и злоупотребата с технологията от хора.

Разликата е съществена. Днешните системи не представляват автономна „свръхинтелигентност“, способна сама да завладее инфраструктурата на света. Същевременно последните инциденти показват, че AI моделите вече могат да проявяват неочаквано поведение, особено когато им бъде предоставена по-голяма автономност и достъп до цифрови системи.

Затова все повече специалисти настояват разработването на по-мощни модели да бъде придружено от независими тестове, строг контрол върху достъпа до критична инфраструктура и международни правила за използването на AI във военни, биологични и киберсистеми.