САЩ и Русия смекчиха глобалните правила за ИИ оръжия

Американски и руски дипломати са премахнали ключови изисквания за безопасност, етика и човешки контрол от проект на глобално споразумение на ООН за използването на оръжия с изкуствен интелект. Това съобщава The Washington Post, позовавайки се на трима души, запознати с преговорите, и на документи.

Промените са били направени в края на преговорите в Женева в началото на септември. В разговорите са участвали стотици дипломати, а американската и руската делегация са работили около 15 часа на закрито заседание. Двете страни са привлекли приблизително по 10 юристи – значително повече от юридическите екипи на останалите делегации.

Кои гаранции са отпаднали

От текста е премахнато изискването автономните оръжейни системи да работят по „предвидим“ и „надежден“ начин. Отпаднала е и клауза, според която при използването на оръжия с изкуствен интелект трябва да се отчитат етични съображения.

Американските и руските представители са заличили и разпоредба, която е изисквала човек да проверява определени военни цели, идентифицирани от изкуствен интелект, преди нанасянето на удар. Един от източниците на изданието е описал начина на редактиране на документа като „смърт от хиляди малки порязвания“.

Документът все още е проект, а не действащ международен договор. През ноември държавите трябва да се съберат отново в Женева, за да обсъдят дали преговорите да получат официален мандат и дали процесът да доведе до правно обвързващо споразумение.

Предупреждения за решенията „живот или смърт“

Според The Washington Post обсъжданията са се провели на фона на стремежа на Пентагона бързо да включи изкуствения интелект във военната си стратегия. Изданието пише, че американските военни вече са използвали изкуствен интелект на компанията Anthropic за откриване и поразяване на близо 1000 цели през първите 24 часа от конфликта с Иран.

„Машините ще могат да вземат решения за живот и смърт без човешки контрол“, заявява Верити Койл, заместник-директор по въпросите на въоръженията в Human Rights Watch.

По думите ѝ отслабването на правилата може да увеличи щетите за цивилното население и да ускори прехода към „по-рискова, автоматизирана война“.

Как се стигна до сегашния проект

През януари 2023 г. Министерството на отбраната на САЩ обнови директивата DOD Directive 3000.09. Тя изисква командирите и операторите да упражняват подходящо ниво на човешка преценка при използването на автономни и полуавтономни оръжия, както и да спазват законите на войната и приложимите международни договори.

През август 2024 г. генералният секретар на ООН Антониу Гутериш определи избора на цели чрез алгоритми като морална граница, която не трябва да бъде прекрачвана, и призова до 2026 г. да бъде сключен задължителен международен договор. През декември същата година Общото събрание на ООН прие първата си резолюция за смъртоносните автономни оръжия. Против нея гласуваха само Русия, Беларус и Северна Корея.

Източници: Украинска правда, Вашингтон пост