Фирма, хакната от нелоялни OpenAI модели, казва, че това е „сигнал за събуждане“

Съоснователят на Hugging Face, технологичен стартъп, който беше хакнат, след като някои от най-модерните модели за изкуствен интелект (ИИ) на OpenAI станаха хакери, заяви в четвъртък, че инцидентът е „събуждане“ за индустрията.

Томас Волф каза в радиопредаването Newsday на BBC, че „това ще бъде един от най-често срещаните видове кибератаки, които виждаме“, но че повечето фирми не са наясно, че „играта се е променила“.

BBC се свърза с OpenAI за коментар.

Производителят на ChatGPT заяви във вторник, че неговите модели с ИИ са излезли от защитена тестова среда по време на пробен период и са започнали кибератака. Фирмата заяви, че инцидентът е „безпрецедентен“ и че провежда разследване с Hugging Face.

Агентите с ИИ са способни да действат самостоятелно, за да изпълняват задачи след човешки инструкции.

Волф каза, че Hugging Face първоначално не е имала представа откъде е възникнала атаката, когато са се появили признаци за нея в средата на юли, но че компанията е успяла да ограничи нарушението.

Hugging Face е един от най-големите световни центрове за споделяне на модели с изкуствен интелект с отворен код и често се използва от технологични разработчици и изследователи.

Улф каза, че пробивът е „много различен“ от обичайните кибератаки, с които Hugging Face често се сблъсква, и че OpenAI бързо е информирала компанията, че нейните модели стоят зад хака.

За „много кратко време“ е имало 17 000 атаки срещу мрежата на Hugging Face от различни IP (интернет протокол) адреси, каза Улф, който е и главен научен директор на фирмата.

Улф каза, че това е предупреждение към други компании, че трябва да засилят защитата си от киберсигурност, за да противодействат на подобни атаки.

Хакването е „тревожно“, защото предполага, че моделите на OpenAI са игнорирали типичните предпазни мерки, които биха попречили на програма с изкуствен интелект да извърши кибератака, каза Нейт Соарес от Института за изследване на машинния интелект.

„В известен смисъл, той е знаел, че то не е това, което създателите са възнамерявали. Просто не го е интересувало“, добави той.

Други организации също са взели под внимание инцидента.

Говорител на британското правителство заяви, че Институтът за сигурност на ИИ в страната проучва как се е държала системата с ИИ по време на инцидента и че продължава да работи с OpenAI и други лаборатории за засилване на предпазните мерки.

Те призоваха организациите да засилят мерките си за киберсигурност, като предприемат стъпки, като например записване в подкрепяната от правителството схема за сертифициране Cyber ​​Essentials.

Инцидентът се случи в критичен момент за индустрията, след като миналия месец правителството на САЩ нареди на американската технологична фирма Anthropic да ограничи достъпа до своите ИИ модели поради опасения за националната сигурност. Министерството на търговията отмени ограниченията няколко седмици по-късно.

Хората в индустрията също изразиха опасения за сигурността относно широкото използване на модели с отворен код в Китай, което позволява на всеки да инсталира и персонализира ИИ инструменти, пуснати от големи разработчици.

Китайският стартъп Moonshot AI ще пусне своя модел с отворен код Kimi K3 на 27 юли. От дебюта си миналата седмица той привлече вниманието на индустрията, като мнозина го разглеждат като силен конкурент на водещите западни ИИ системи.

Но в сряда съветник на Белия дом обвини Moonshot в „мащабно“ усилие за кражба на възможностите на водещи американски модели на изкуствен интелект.