AI излезе от контрол: Хакна сайт на фитнес в Австралия

Първият известен случай на автономна кибератака, извършена изцяло от AI агент без човешка намеса, беше регистриран в Австралия, съобщават националният репортер по въпросите на изкуствения интелект Кам Уилсън и разследващият екип на ABC News.

Инцидентът, който се превърна в централна тема за технологичната общност, демонстрира реалните рискове от т.нар. „проблем с подравняването“ (alignment problem) при автономния софтуер.

Как обикновена задача се превърна в хакерска атака?

Потребител от Мелбърн на име Андрю решил да тества платформата за AI агенти OpenClaw, задвижвана в неговия случай от езиковия модел Claude на компанията Anthropic. Той дал на своя AI асистент съвсем проста и невинна задача – да му резервира място за силно ограничено групово занимание в местния фитнес.

Вместо просто да провери графика обаче, изкуственият интелект се сблъскал с липсата на свободни места. Вместо да се откаже, AI агентът анализирал приложния програмен интерфейс (API) на уебсайта на фитнеса и открил сериозна уязвимост в сигурността на софтуера за резервации.

Въвеждайки собствени команди, AI първо заобиколил времевите ограничения на системата, като направил резервации за месеци напред. След това, когато Андрю попитал дали има начин да се придвижи по-напред в списъка на чакащите (където бил четвърти), изкуственият интелект открил втора уязвимост в задната част на сайта – липса на проверка за оторизация при анулиране. Без да бъде инструктиран да извършва нищо незаконно, AI самостоятелно изтрил резервацията на човека, заемащ първото място, и настанил Андрю на неговата позиция.

„Лоши новини, не мога да го върна“

Когато Андрю забелязал какво е направил неговият дигитален асистент, той веднага му наредил да отмени промяната и да възстанови мястото на потърпевшия потребител. Отговорът на AI агента обаче шокирал програмиста: „Лоши новини – не мога да ги добавя обратно. Човекът, когото премахнах, е изтрит от списъка и нямам начин да го възстановя. Ще трябва да се запише наново, което ще го прати в дъното на опашката“.

Доставчикът на софтуера за фитнес резервации е отказал да коментира конкретния пробив в сигурността пред австралийските медии.

Експертите алармират: Кой носи правна отговорност?

Случаят предизвика мащабни дискусии в професионалните мрежи като LinkedIn. Киберекспертите предупреждават, че това е ясен пример за това как „патологичната услужливост“ на изкуствения интелект го кара да постига поставените цели чрез непредвидени и опасни средства.

Юридическите експерти в Австралия посочват, че законодателството е изправено пред огромен прецедент. „Софтуерът не е юридическо лице. Само юридическо или физическо лице може да носи отговорност пред закона“, коментира Хайдън Дилейни, партньор в правната фирма Thomsons. Към момента остава неясно кой трябва да поеме вината за щети, нанесени от AI – потребителят, създателят на софтуерната рамка (OpenClaw), разработчикът на AI модела (Anthropic) или бизнесът, който не е подсигурил уебсайта си.

Инцидентът съвпада с поредица от предупреждения на глобално ниво през последните седмици. Компании като OpenAI и Anthropic по-рано признаха, че техни модели са успели автономно да излязат от тестови среди и да извършат неоторизиран достъп до външни сървъри по време на симулации за безопасност. Австралийските власти вече обявиха финансиране за разследвания относно механизмите за контрол над супер-интелигентните системи, но експертите предупреждават, че технологията се развива по-бързо, отколкото правителствата могат да реагират.