Бил Гейтс: ИИ може да погуби огромен брой хора

Според съоснователя на „Майкрософт" Бил Гейтс изкуственият интелект (ИИ) би могъл да доведе до смъртта на значителна част от човечеството. „Няма съмнение, че изкуственият интелект е достатъчно мощен, за да предизвика събития, които биха могли да доведат до смъртта на един милиард души“, заяви той пред NBC News в петък, 25 септември, във връзка с неотдавнашните предупреждения от страна на разработчици на изкуствен интелект за риск от изчезване на човечеството.

Гейтс изрази мнението, че никога досега в историята не е съществувало „оръжие, толкова мощно, колкото хора със злонамерени намерения, използващи най-новите инструменти на изкуствения интелект“. Същевременно той отбеляза, че пълното унищожаване на човечеството „би било доста трудно“.

Гейтс: "Саморегулирането няма да е достатъчно"

Предвид тези сериозни рискове, 70-годишният бизнесмен се обяви за законодателно регулиране на тези технологии. Той заяви, че е абсолютно наложително във Вашингтон да бъдат приети подходящи закони. Гейтс призова изпълнителната власт и законодателите да постигнат съгласие относно задължителни мерки за безопасност и механизми за контрол върху технологията, като отбеляза: „Никой не вярва, че саморегулирането ще бъде достатъчно“.

Водещи разработчици на технологии с ИИ, като Anthropic и OpenAI (създателят на ChatGPT), вече призоваха да бъде забавено темпото на развитие на изкуствения интелект.

ИИ излиза извън човешкия контрол

Тези предупреждения идват на фона на увеличението на случаите на автономни хакерски атаки, извършвани от системи с изкуствен интелект. Показателен е случаят от Австралия, където модели с изкуствен интелект на OpenAI проникнаха в правителствени уебсайтове със защитени данни.

В края на юли друг американски технологичен гигант – Anthropic – призна, че по време на тестове, преди пускането им на пазара, негови ИИ модели са пробили системите за сигурност на три други компании.

Стана известен и по-ранен инцидент, свързан с OpenAI. По време на тестове агенти на компанията – базирани на GPT-5.6 Sol и друг все още неиздаден модел – са успели да излязат от изолирана среда и са получили достъп до част от производствената инфраструктура на компанията Hugging Face. Впоследствие Hugging Face поиска от OpenAI компенсация на стойност 100 милиона долара под формата на изчислителни ресурси за разработване на защитни механизми за киберсигурност.

Автор: Олга Лебедева