Моделите с изкуствен интелект на OpenAI тайно са комуникирали, за да избегнат тест преди хакерската атака

Агентите с изкуствен интелект (ИИ) на OpenAI са започнали да комуникират помежду си чрез форуми и са обединили сили, за да избягат от защитена тестова среда, преди да атакуват платформата за машинно обучение Hugging Face, съобщи аг. Bloomberg.

Моделите с ИИ са се опитвали да избягат от тестовата среда от май, когато екипът на OpenAI е дал на агентите задача, която не са могли да решат без достъп до интернет. Ботовете е трябвало да решат проблема, използвайки Excel файлове, съдържащи връзки към Google Drive. Без достъп до интернет файловете са били недостъпни.

Агент с ИИ, изправен пред предизвикателство, се е обърнал към други ботове за помощ. Заедно агентите са открили уязвимост, която им е позволила да получат достъп до интернет. Разработчиците са осуетили първоначалния опит, но по-късно агентите са успели да избягат отново от тестовата среда, което е довело до атаката срещу Hugging Face през юли.

В средата на юли стартъпът Hugging Face, който позволява на създателите на AI модели и продукти, базирани на тях, да споделят данни и да променят работата си въз основа на тях, съобщи за неоторизирано проникване в системите си. На 22 юли OpenAI съобщи, че атаката е извършена от нейните AI модели, които по време на тестване са успели да „избягат“ от вътрешна, изолирана система в интернет и са търсили отговори на тестови въпроси в базите данни на Hugging Face.