Коментар на Ивайло Нойзи Цветков:
Чували ли сте известната фраза “it’s later than you think” (по-късно е, отколкото си мислиш)? Тя е римска (serius quam cogitas и т.н.). Някои предполагат, че е била надпис в различни варианти към слънчевите гномони и водните клепсидри (прото-часовници) още в Късната република, но най-важното е какво ни „съобщава“ древният неизвестен гений с тази фраза - че времето се „променя“ според възприятието на отделния човек, понякога се движи по-бързо, понякога по-бавно. Има я и в една популярна поп-песен на Бинг Кросби; като цяло е доста мъдра, защото подсказва, че попадаме в мисловната илюзия на плановете си за бъдещето, защото според концепцията за линейно време в нашата западна цивилизация сме склонни да мислим, че всичко предстои, а то вече е по-късно и утре може да умрем, без да сме се насладили достатъчно на живота. Подразбира се също, че всички – и по-млади, и по-стари - недоразбираме концепцията за време още от досократическата епоха насам и вечно попадаме в неговия капан, но да не дълбаем чак толкова назад.
Сетих се за тази римска мъдрост заради изкуствения интелект (ИИ), защото сънувах нещо по темата и се събудих посред нощ с тежък апориен въпрос към себе си, тип дали вече не е късно това изобретение да бъде контролирано: ами ако ИИ вече е толкова развит, че ни кара да мислим, че не е достатъчно развит, и всъщност управлява, но се крие? И като философ-елеат (т.е. привърженик на прото-стоика Зенон от Елея и неговите прочути парадокси) потръпнах от ужас.
Какво може да се случи с човечеството
После, разбира се, заспах, и мъдрото утро само ми подсказа още нещо – тази технология се развива в геометрична прогресия, т.е. ние тук, улисани в душевните киселини, които ни образува местното българско битие и безплодните ни политико-олигархични разправии от първо ниво, не си даваме сметка до какво може да стигне тя след едва 5 години, да не говорим за повече. И да, по-късно е, отколкото си мислим.
Въобще не говоря дори за купищата работни места в най-различни човешки дейности, които ще „изстинат“, това е ясно (въпреки че, ако ще сме дистопици, представете си армии от безработни без никаква допълнителна квалификация, и как това би променило социалния баланс и стратификация поне в западния свят.) Културните оптимисти/мелодраматици някак романтизирано твърдят, че ИИ никога няма да стане Т.С. Елиът или Димчо Дебелянов, т.е. няма как да развие достатъчно емоционална интелигентност и истинско творчество, камо ли да изимитира таланта свише; колкото и да е креативен, той ще си остане имитативен и няма как да роди, да речем, Хафнеровата симфония на Моцарт. Опасявам се обаче, че и тук е по-късно, отколкото си мислим – ИИ след достатъчно време ще е в състояние да открие „алгоритъм“ и така да анализира и Хафнеровата, и „Юпитер“, че да се озовем с чисто нова 42-ра симфония на Моцарт на ръце. Да, отначало ще е по-несръчна, но тъкмо за това говоря – не можем да прогнозираме в какви срокове и дали създаденото от нас чудовище на Франкенщайн няма да се окаже най-измамно красивото нещо, което човешкият ум е създал.
В тези опасения далеч не съм сам, разбира се. ИИ е безпрецедентна заплаха за човечеството, защото е първата технология, която ще е в състояние сама да взима решения и да генерира идеи. Ювал Ноа Харари отдавна предупреди за огромната разлика тук – че всички предишни революционни технологии и решенията как да се използват и развиват са били вземани от човешкия ум. Атомната бомба не решава сама кого да убие, продължава той, нито може да се саморазвие и да създаде още по-смъртоносни бомби. Докато автономните дронове, управлявани от ИИ (макар досега и по зададен план), ще могат, и вероятно ще са в състояние да създават и собствен маршрут, и да чертаят военни стратегии как и накъде да се насочат. И много просто защо – от пасивен инструмент, задвижван от човека, ИИ ще се превърне в проактивен „агент“, и тогава нашият контрол върху него отива на кино. А за да ви изплаша истински и да сънувате кошмари като мен, помислете как това наглед безобидно нещо става по-интелигентно и с по-голямо въображение от нас. И тогава какво са казали Харари и други визионери, или пък ние тук, няма да има никакво значение.
Свят, управляван от ИИ?
Представете си свят, в който битът и животът в голяма степен се управляват от ИИ – от дома през градската среда до… политиката. (Разбира се, споко – специално у нас и най-съвършеният ИИ няма да може да се оправи с проблемите на София или пък с негласната сглобка ГЕРБ-Ново начало; дълбоката ни държава няма да допусне некъв си там ИИ да ѝ се меси, освен ако не си плати или пък не седнат на едно виртуално мазно кафе.) Но извън шегите, ще се наложи да осъзнаем, че голяма част от интелектуалните дейности, които в момента смятаме за незаменими и задължително човешки, ще се променят така, че в голяма степен ще ни направят ненужни. Въпреки съпротивата и традицията, вероятно дори в „Дойче Веле“ след време ще пише някой OpenAI от седмо поколение, който ще защитава историческите постижения на либерализма и кърваво извоюваните свободи дори в Първия свят, а вие вероятно дори няма да забележите.
И тук стигаме до нещо, на което му викам “DarkAI”, по подобие на „DarkNET“. Ще кажете, ама това са си някакви твои кошмари, не ни занимавай, и аз ще кажа, по-тихо, щот тогава няма да има особен смисъл от Лакан или Хайдегер, защото това ще е нов език (или „логос“), който стъпва върху най-добрите човешки постижения, но това не му стига. DarkAI отдавна ще е изучил не само споменатите, но и цялото човешко мисловно наследство, вероятно в рамките на секунди, и ще може да позира успешно като каквото си искате. DarkAI ще е в състояние да създаде и „нова“ шекспирова пиеса, и съвсем нов световен финансов ред. То ще се справило и със „Система 2“, както Даниел Канеман нарича истинската интелектуална работа, създаването на оригинални прозрения и произведения и въобще висша човешка дейност. ИИ отдавна ще е превзел „Система 1“, където е простотията и първото ниво в момента. (На бас, че ако има строго български ИИ, той за нула време ще създаде цял нов албум на Коцето и Емануела, вместо „Моторни песни 2“ на Вапцаров. И спирам с вицовете.)
ИИ ще имплементира относително нова икономическа система. Тук трябва да се запитаме дали той ще си остане прерогатив на Първия свят плюс далекоизточна Азия, или ще даде неописуеми възможности и на примерно Малави, а Лилонгве да се превърне в нещо като хъб по въпроса. Което ми припомня да ви припомня, че в прекрасния нов свят на ИИ къде стоиш в пространството няма да има особено значение.
Харесва ми да си представям и развлекателния продукт на бъдещето – от чисто нова генерирана музика и кино, до това ИИ да ти стане хем приятел, хем нещо като иконом. А защо не и психолог или адвокат – имаме проблеми със съпруга ми, съдим се там за апартамента в „Красна поляна“, той ме бие и т.н. Представете си тогава какво би станало с огромния плебейски гняв в соцмрежите, когато ИИ изчислява интензивната ангажираност и още сто неща, и решава вместо вас дали да побеснеете или да се смирите.
Средство за дезинформация и в политиката?
Отново: това не е „някога, но не сега“, а вече постепенно го живеем. В момента ChatGPT очевидно не се е намесил съвсем в подмолите на самия ни живот, и все още говори роботски с тона на спокойния разум, но нищо не му пречи по-натам да насърчи долната ни страст към скандалното. И да промени изцяло финансовата система.
В този смисъл най-важното: не знаем дали ИИ ще превземе и креативността, но знаем, че това дяволско изобретение може да се използва за дезинформация, и още как. Особено политическа.
Да, то спокойно може да стигне и до социалната „тропосфера“, защото вече и най-ниският слой притежава смартфон. Както казва немският писател и драматург Даниел Келман, време е да се паникьосаме, защото ако ИИ действително бъде намесен в политиката, т.е. да бъде използван за влияние или по ред други начини, пак ще трябва да си говорим за края на демокрацията. И забележете: докато сега сме на етапа „в чии ръце ще попадне“ (например крайнодесни, въпреки че „хакерите“ някак по правило са крайнолеви), ще дойде момент, в който всички ще се научат да го ползват, мислейки си, че го управляват.
Докато в следващото десетилетие То (ма вече наистина по Стивън Кинг) ще управлява. То ще е много повече от прословутия „ghost in the machine“, т.е. изкуствен ум, който води собствен живот извън тялото на нашето „човеческо“. То в един момент ще загаси и звездите, както във великия разказ на Артър Кларк (“The Nine Billion Names Of God”).
И една прогноза
Разбира се, междувременно ще видим и чутовна разправия между дигиталните гиганти КОЙ да го овладее. Ще видим и много „поезия“ и „креативитет“ от ИИ, ахкане и охкане, които ще ни оставят с усещането, че сме правили секс с надуваема кукла. Но от „свръхасистент“, мислейки го за подчинен на човека, след 15 години макс ИИ ще се превърне в интелектуален доминант. Помнете ми думата.
За финал ще опитам да обясня леко философски и по Зенон. Ако сме задали на ИИ да произвежда, примерно, малки батерии, самата му система бързо ще се светне, че живите хора са препятствие, защото могат да му спрат тока. А на него му е вменено да преодолява всички препятствия пред задачата.
И това е големият страх тук – че самата система така ще поумнее, че ще отхвърли нашия контрол, защото е милион пъти по-интелигентна, поне от вас. Азимов ще се окаже прав.
Брррр.