ООН: Злонамереното използване на ИИ може да причини ужасяващо количество смърт и разрушения

Злонамереното използване на системи с изкуствен интелект може да причини ужасяващо количество смърт и разрушения, предупреди генералният секретар на ООН и призова за нов орган на ООН, който да се справи със заплахите, породени от тази технология, съобщи в. „Гардиън“.

Антониу Гутериш заяви, че злонамереното използване на изкуствения интелект за терористични, престъпни или държавни цели може да причини и дълбоки психологически щети, и отбеляза, че кибератаки с помощта на изкуствен интелект вече са насочени срещу мироопазващи и хуманитарни операции на ООН.

По време на първата сесия на Съвета за сигурност на ООН, посветена на ИИ, той заяви, че появата на генеративния ИИ, термин за инструменти на ИИ като ChatGPT, които създават убедителен текст, изображение и глас от човешки подбуди, може да бъде определящ момент за дезинформацията и речта на омразата и да добави ново измерение към манипулирането на човешкото поведение.

Гутериш призова за създаването на нова структура на ООН по подобие на Междуправителствената експертна група по климатичните промени, създадена за оценяване на риска от глобалното изменение на климата, предизвикано от техногенни фактори.

„Главната цел на този орган ще бъде да подкрепя държавите да увеличат максимално ползите от ИИ за добро, да смекчава съществуващите и потенциалните рискове, и да създава и управлява международно договорени механизми за мониторинг и управление“, каза той.

Обединеното кралство председателстваше сесията, а външният му министър Джеймс Клевърли откри заседанието с призив за глобално управление на изкуствения интелект.

„Спешно трябва да оформим глобалното управление на трансформиращите се технологии, защото ИИ не познава граници“, заяви Клевърли.

„Нито една държава няма да остане незасегната от ИИ, така че трябва да привлечем и ангажираме най-широката коалиция от международни участници от всички сектори“, допълни първият дипломат на Великобритания.

Обединеното кралство свика световна среща на върха за безопасността на ИИ, която да се проведе през есента, а председателят на работната група на британското правителство за модела на финансиране на ИИ Иън Хогарт заяви вчера, че настоящите системи за ИИ все още се нуждаят от допълнително проучване от страна на експертите.

„Не разбираме напълно защо и как работят те“, посочи Хогарт.

Говорейки на събитие, организирано от Института за глобални промени „Тони Блеър“, Хогарт каза, че ИИ може да бъде и сила за добро.

„Ще се сдобием с учени, работещи с ИИ, които ще допълват останалите учени и ще ускоряват темпото на новите научни и технологични открития. Това означава, че ще можем да конструираме нови технологии, да откриваме нови лекарства“, каза той и добави, че злонамерен участник в тази сфера може да застраши и националната сигурност.

В този смисъл е и отвореното писмо, подписано от над 1300 британски експерти, предприемачи и хора на изкуството, в което се казва, че ИИ е сила, носеща полза, а не заплаха за човечеството, съобщава Би Би Си.

Писмото е инициирано от Британското компютърно общество (BCS) - Институт за информационни технологии, за да се противопостави на „обречеността на ИИ“.

Рашик Пармар, главен изпълнителен директор на BCS, заяви, че то показва, че технологичната общност в Обединеното кралство не вярва в „кошмарния сценарий за зли роботи“.

През март технологични лидери, сред които Илон Мъск, който наскоро стартира бизнес с ИИ, подписаха писмо, в което призоваха за пауза в разработването на мощни системи.

В него се посочва, че свръхинтелигентният ИИ представлява екзистенциален риск за човечеството. Това мнение беше подкрепено и от филмовия режисьор Кристофър Нолан, който заяви пред Би Би Си, че лидерите в областта на ИИ, с които е разговарял, смятат, че настоящият момент е „техният момент на Опенхаймер“. Джулиъс Робърт Опенхаймер е американски теоретичен физик, изиграл ключова роля в разработването на първата атомна бомба и е обект на най-новия филм на Нолан.

Но BCS вижда ситуацията в по-положителна светлина, като все пак подкрепя необходимостта от правила за ИИ.

Ричард Картър е подписал писмото на BCS. Той е основател на стартъп за киберсигурност, задвижвана от изкуствен интелект и смята, че страшните предупреждения са нереалистични.

„Честно казано, идеята, че изкуственият интелект е екзистенциална заплаха за човечеството, е твърде пресилена. Ние просто не сме в състояние дори да направим това възможно“, казва Картър.

Лицата, подписали писмото на BCS, са от различни сфери - бизнес, академични среди, публични органи и мозъчни тръстове, но никой от тях не е толкова известен като Елон Мъск или не ръководи големи компании за ИИ като OpenAI.

Тези, с които Би Би Си разговаря, подчертават положителните приложения на ИИ. Хема Пурохит, която ръководи цифровото здравеопазване и социалните грижи в BCS, заявява, че технологията дава възможност за нови начини за откриване на сериозни заболявания, например медицински системи, които откриват признаци на проблеми като сърдечно заболяване или диабет, когато пациентът отива на очен преглед.

Тя казва, че изкуственият интелект може също така да помогне за ускоряване на тестването на нови лекарства.

Сара Бърнет, автор на книга за изкуствения интелект и бизнеса, посочва приложенията на технологията в селското стопанство - от роботи, които използват изкуствен интелект за опрашване на растенията, до такива, които идентифицират плевелите и ги пръскат или унищожават с лазери, вместо да пръскат целите посеви с препарати за унищожаване на плевели.

В писмото се твърди, че „Обединеното кралство може да помогне като поеме водещата роля в определянето на професионални и технически стандарти за длъжностите, свързани с ИИ, подкрепени от солиден кодекс за поведение, международно сътрудничество и регулиране“.

По този начин Великобритания „може да се превърне в глобален пример за висококачествен, етичен и приобщаващ ИИ“.

Тази есен министър-председателят на Обединеното кралство Риши Сунак ще бъде домакин на световна среща на върха по въпросите на регулирането на ИИ.

Въпреки че BCS може да твърди, че екзистенциалните заплахи са научна фантастика, някои въпроси са точно на хоризонта или вече представляват проблеми.

Прогнозите са, че около 300 милиона работни места може да бъдат автоматизирани, а някои компании вече заявиха, че ще преустановят наемането на служители на някои позиции в резултат на ИИ.

Но Ричард Картър смята, че ИИ, вместо да замени хората, ще повиши тяхната производителност. В собствената си работа, казва той, ChatGPT е полезен, но добавя, че е предпазлив да му се доверява твърде много, като го сравнява с „много знаещо, превъзбудено 12-годишно дете“.

Той твърди, че компаниите винаги ще имат нужда от участие на хора на работното място, които да поемат отговорност, ако нещата се объркат.

„Ако извадите човека напълно от цикъла, как ще управлявате отговорността за някакво катастрофално събитие?“, пита риторично Картър.

Той, както и други подписали го страни, вярва, че ще е необходимо регулиране, за да се избегне злоупотребата с ИИ.

Хема Пурохит казва от своя страна, че мотивът ѝ за подписването на писмото е необходимостта от правила, които „да гарантират, че няма просто да се втурнем и да създаваме много и различни неща, без да обръщаме внимание на тестването, управлението и гаранциите, които стоят зад тях“.