На косъм: Чатбот насочил US военни срещу китайски кораб

Американските военни са били близо до операция срещу китайски кораб в Близкия изток, след като разузнавателен доклад, подпомогнат от изкуствен интелект, е съдържал невярно твърдение за товара му, съобщи CNN.

Според медията първоначално е било прието, че плавателният съд превозва компоненти за иранската ядрена програма. При повторна проверка обаче е установено, че тази информация е била генерирана с помощта на чатбот и не отговаря на истината. CNN посочва, че докладът е бил разпространен в американските военни структури през пролетта, когато войната с Иран все още е била в ход.

Как е допусната грешката

По данни на CNN анализатор е използвал изкуствен интелект, за да търси сведения за товара в корабен манифест. След това получената информация е била обобщена отново с помощта на ИИ и оформена във вид, наподобяващ стандартен разузнавателен документ. Именно така невярното твърдение е придобило вид на официален аналитичен материал.

Според източниците, цитирани от CNN, проблемът е бил открит преди да се стигне до действие срещу кораба. Медията пише, че в момента на повторната проверка американски военни самолети вече са били във въздуха, а на борда са били подготвени и военнослужещи за евентуално качване на плавателния съд.

Въпросите за ИИ във военната сфера

Случаят отново насочва вниманието към риска от така наречените халюцинации при езиковите модели, при които системата поднася невярна информация като достоверен факт. В разузнавателна среда това може да доведе до грешни изводи, ако липсва човешка проверка на данните.

CNN отбелязва, че американските въоръжени сили вече използват различни системи с изкуствен интелект за анализ на големи масиви от данни и за подпомагане на идентифицирането на цели. Именно затова случаят се възприема като предупреждение за нуждата от допълнителен контрол в чувствителни операции, при които грешка може да има дипломатически и военни последици.

Източници: CNN