Една кратка фраза в социалната мрежа обобщи по-остро от официалните речи сблъсъка около бъдещето на изкуствения интелект: „Играем с парите на заведението в индианско казино в ниското подножие на сингулярността“. Авторът е Дийн Бол – човек, участвал в създаването на американската стратегия за изкуствения интелект, а днес ръководител на екипа Strategic Futures в OpenAI.
Публикацията се появи след заседанието на Съвета за сигурност на ООН на 23 септември, посветено на изкуствения интелект и международната сигурност. На него ръководители на водещи компании предупредиха за рискове, които според тях могат да надхвърлят възможностите на отделни държави и лаборатории.
Индустрията поиска координация
Главният изпълнителен директор на OpenAI Сам Алтман заяви, че решенията за най-мощните модели не бива да бъдат оставяни на „един човек, компания или държава“, които могат да наложат собствената си визия върху останалия свят. Той призова правилата да бъдат изработвани чрез демократични процеси и от правителства, които носят отговорност пред гражданите.
Дарио Амодеи, ръководител на Anthropic, предупреди, че изкуственият интелект може да бъде използван за разработване на биологични оръжия, а бъдещи модели могат да станат по-способни, отколкото техните създатели могат да контролират. „Ако бъде управляван зле, изкуственият интелект може да се превърне в риск за човечеството като цяло“, каза той.
Йошуа Бенджио, носител на наградата „Тюринг“ и един от пионерите на съвременния изкуствен интелект, определи опасностите от системи извън човешкия контрол като безпрецедентна заплаха. Той предложи най-мощните модели да бъдат лицензирани по подобие на други критични технологии, включително ядрената енергетика, а разработчиците им да носят и финансова отговорност.
Вашингтон отхвърли „глобалистка схема“
Отговорът на американската администрация дойде от Майкъл Крациос, директор на Службата за научна и технологична политика на Белия дом. Той заяви, че Съединените щати „напълно отхвърлят всеки опит за изграждане на глобалистка схема за контрол над суперинтелекта“.
Така на едно и също заседание се сблъскаха две позиции. Ръководители на компании, които разработват най-мощните модели, поискаха международна координация и общи правила. Представителят на Вашингтон предупреди, че глобалният контрол може да се превърне в ограничение за американското технологично лидерство.
Трите метафори на Дийн Бол
Първата част от фразата на Бол – „парите на заведението“ – идва от езика на хазарта. Тя описва играч, който залага отново вече спечелени средства и затова приема по-голям риск. В контекста на изкуствения интелект метафората насочва към огромните инвестиции, високите оценки на компаниите и договорите за изчислителна инфраструктура, които се сключват с пари на инвеститори, държави и финансови пазари.
„Индианското казино“ подсказва среда със собствени правила. В Съединените щати казината, управлявани от племенни общности, действат при специален правен режим. За Бол това е образ на технологичните лаборатории, които до голяма степен сами определят стандартите за безопасност, докато държавата се отказва от международна рамка.
Последната част – „ниските предгория на сингулярността“ – сваля патоса около технологичното бъдеще. Сингулярността е хипотетичен момент, в който развитието на машините става толкова бързо, че човешките прогнози губят смисъл. Вместо величествен път към неизвестен връх Бол рисува провинциално казино, построено в подножието му.
Именно затова фразата привлече внимание: авторът не е външен критик на индустрията. Бол е бил съветник по изкуствения интелект в Белия дом и е участвал в изработването на американския План за действия в тази област. След това той пое ръководството на Strategic Futures – екип на OpenAI, който изследва как обществото трябва да се подготви за появата на трансформиращи технологии.
Това оставя спора без лесен изход. Все още няма съгласие колко близки са най-тежките рискове, дали е необходимо забавяне на разработките и дали международно споразумение е възможно без участието на всички големи технологични и военни сили. Междувременно индустрията увеличава залозите, а държавите спорят кой трябва да държи ръката върху спирачката.
Източници: Ройтерс, Аксиос, Гардиън