Изкуственият интелект може да направи ядрените заплахи по-убедителни

Възможността ядрените оръжия да бъдат поставени под автоматизиран контрол на изкуствен интелект създава нов и изключително опасен риск за международната сигурност, предупреждават в анализ за War on the Rocks Джошуа А. Шварц от Института за стратегия и технологии „Карнеги Мелън“ и Майкъл К. Хоровиц от Съвета по международни отношения, предава News.bg.

В момента девет държави притежават ядрени оръжия, докато договорите за контрол над въоръженията, изграждани в продължение на десетилетия, постепенно губят значението си. Северна Корея разширява арсенала си, Китай увеличава ядрения си потенциал, а Русия разработва нови системи за доставяне на ядрено оръжие, предназначени да преодоляват противоракетната отбрана.

На този фон авторите обръщат внимание на още една тенденция - възможността решенията за използване на ядрено оръжие да бъдат частично или изцяло автоматизирани.

„Мъртвата ръка“ като исторически прецедент

По време на Студената война Съветският съюз разработва система, известна като „Мъртвата ръка“ или „Периметър“.

Нейната цел е била да гарантира възможност за ответен ядрен удар при унищожаване на съветското ръководство. При определени условия системата е можела да делегира правомощията за изстрелване на по-нископоставен оператор.

Авторите посочват, че подобна система по същество е била предназначена за възпиране на първи ядрен удар. Днес обаче автоматизацията би могла да бъде използвана и за други цели - включително за принуда на противници.

Автоматизираната заплаха може да бъде по-убедителна

При обичайното ядрено възпиране съществува проблемът с достоверността на заплахата. Ако една ядрена държава заплаши друга с удар, ответният ядрен удар може да доведе до взаимно унищожение.

Автоматизирана система може да промени тази логика, защото лидерът би могъл предварително да делегира решението на компютърна система и така да „върже ръцете си“.

Според авторите това би могло да направи ядрената заплаха по-правдоподобна: противникът вече няма да може да разчита, че лидерът ще се откаже в последния момент от изпълнението ѝ.

Експеримент с британски депутати

Шварц и Хоровиц са провели експеримент с над 100 действащи британски депутати и повече от 1000 граждани.

На участниците е представен хипотетичен сценарий, при който Русия напада Естония и заплашва НАТО с ядрен удар, ако Алиансът се намеси.

Разликата е била в начина на изпълнение на заплахата - в единия вариант решението е контролирано от хора, а в другия е делегирано на автоматизирана система, която би реагирала при засичане на намеса на НАТО.

Резултатите показали, че автоматизираната заплаха се възприема като по-опасна. Британските граждани са били с над 13% по-склонни да повярват, че Русия ще използва ядрено оръжие, а британските депутати са били с около 9% по-склонни да подкрепят отстъпление от защитата на Естония.

Авторите обаче подчертават, че ефектът е значим, но умерен – голяма част от участниците не са променили позицията си.

Рискът от техническа грешка

Автоматизирането на ядреното командване обаче носи огромни опасности.

Компютърните системи могат да откажат, да бъдат хакнати или да интерпретират неправилно информацията. По време на Студената война неколкократно са възниквали ситуации, при които системите за ранно предупреждение погрешно са показвали, че е започнала ядрена атака.

В такива моменти човешката преценка е предотвратявала потенциална катастрофа.

При система, основана на изкуствен интелект, рискът може да бъде още по-голям, особено ако се използват сложни модели, чиито решения трудно могат да бъдат обяснени или проверени.

Хакерска атака срещу подобна система също би могла да има катастрофални последствия, предупреждават авторите.

Опасност от ядрено „блъфиране“

Друг проблем е, че държавите могат да имат стимул да твърдят, че разполагат с автоматизирана ядрена система, дори когато това не е вярно.

Самата несигурност дали системата съществува може да бъде достатъчна, за да накара противника да отстъпи.

Това превръща автоматизацията не само в технологичен, но и в психологически инструмент за ядрена принуда.

Какво могат да направят ядрените държави

Авторите предлагат няколко възможни мерки. Сред тях са укрепване на способностите за втори ядрен удар, което би намалило стимулите за създаване на автоматизирани системи заради страх от обезглавяваща атака.

Друга възможност е многостранно международно споразумение, което да забрани автоматизираното изстрелване на ядрени оръжия.

Вашингтон и Пекин вече са поели неофициален ангажимент решенията за използване на ядрени оръжия да останат под човешки контрол. Според авторите подобно правило би било по-силно, ако бъде превърнато в международно правно обвързващо споразумение и залегне в националното законодателство.

За НАТО е необходимо и провеждането на стратегически и военни симулации, които да покажат как Алиансът би реагирал при автоматизирана ядрена заплаха.

„Армагедон на автопилот“

Авторите подчертават, че изкуственият интелект неизбежно ще намира все повече приложения във военната сфера. Автономните системи и дронове могат да имат реални предимства, особено при конвенционални операции.

Но автоматизирането на ядреното командване е съвсем различен въпрос.

Технически неизправности, кибератаки, погрешна интерпретация на информацията и прекомерно доверие в автоматизираните системи могат да превърнат една грешка в глобална катастрофа.

Поставянето на Армагедон на автопилот би създало уникални рискове, които не могат да бъдат сравнявани с тези при конвенционалните оръжия. Именно затова, според авторите, човешкият контрол върху решенията за използване на ядрено оръжие трябва да остане неприкосновен.