Защо се страхуваме от изкуствения интелект

По отношение на изкуствения интелект българите са разделят приблизително на две половини: едните не знаят какво точно е това, а другите са негативно настроени. Изкуственият интелект е новият джендър, пише Ивайло Дичев.

Изкуственият интелект (ИИ) е новият джендър – това, според мен, показа скорошно изследване на "Тренд". Близо половината анкетирани не знаят много добре какво точно е това, а другата половина имат негативно отношение към него. Все пак дебатът тук е по-сериозен, а и не само български.

Да почнем с това, че целият уплах от ИИ избликна в момента, в който услугите му станаха достъпни безплатно за широката публика чрез платформи на големите езикови модели и тези за манипулиране на картини. Компаниите го използваха дълго преди това под една или друга форма, но ето ви парадокс: предлага се нещо на широката публика и, наместо доверие, то почва да буди страх. Ами да си го бяха държали в тайна, ще кажете. Само че тези няколко компании отбелязаха невиждан ръст откакто излязоха на глобалната сцена, където се разрази и нова конкурентна битка между гигантите. Илон Мъск например тръгна да спира развитието на технологията, защото почувства, че изостава; както и при Туитър, той и тук залага на битката срещу "политическата коректност", която според него пречи на истината (който е пробвал знае, ChatGPT няма да ви разкаже расистки или сексистки виц, например, любителите на такива явно ще трябва да ходят при Мъск).

Не е лесен въпросът за това дали тия платформи предлагат публична услуга или е възможно данните им да са изкористени в някаква посока. Преди време подобно чудене имаше около търсачките – победи Гугъл, които решиха да разделят рекламата от коректното съдържание. Уикипедия пък се наложи като даде платформата си в ръцете на образованите потребители, които се самоорганизираха за експертен контрол. Нашата парадоксална публика не вярва нито в конкуренцията, нито в гражданското сътрудничество - вярва на държавата, която иначe недолюбва.

Когато фантазията ражда страхове

Нека споменем, че ИИ е широко понятие: става дума за машина, която може да решава проблеми, които не са заложени предварително в алгоритмите ѝ. Например моята прахосмукачка-робот е ИИ, доколкото заобикаля чехъла, който съм забравил насред хола. Но разбира се не това плаши хората днес: чувайки смислени отговори от GPT чатбота, в тяхното въображение веднага се задействат образите на холивудските филми, където роботите развиват собствено съзнание и почват да изтребват хората, за да спасят природата или нещо друго. В други сюжети роботът развива същинска емоционалност и заменя междучовешкото общуване, обричайки всички нас на самота.

Тия моменти засега са далеч, платформите на ИИ са средства, които служат на този, който ги програмира. Големите езикови модели например само имитират съзнание - всъщност това са усъвършенствани речници, които събират и отсяват това, което вече е написано и казано някога. Страхът идва от имитацията на човек, която все по-съвършено постига машината - това е древният страх от огледалото, което е карало хората да се чудят откъде идва образът.

Новите опасности

И тук има реални опасности. Например ако телефонните измамници започнат да синтезират гласа и образа на пострадалия уж в катастрофа внук, който иска пари от баба си? ЕС вече се зае да регулира тази сфера и ще бъде задължително указването на синтетично генерирани съдържания, но ще трябва и ние да се понаучим и ние да различаваме лъжа от истина, пък и да поработим с бабите си.

Интересен е и страхът от емоционалната връзка с машината, който киноиндустрията развива (обикновено се дава за пример гениалният "Тя", 2013, където самотният герой се влюбва в операционна система). Странното е, че подобно усещане, поне у нас, изглежда касае повече старите хора, т.е. тъкмо онези, които биха могли да разчитат на различни грижи, осигурявани от ИИ – като се почне от плащането на сметките или смяната на памперсите и се стигне до разговори за политика или приспиване с четене на книги. Удобството е безспорно, но дали пък проблемът не е в мисълта на стария човек, че децата му завинаги ще го оставят в ръцете на машината?

Сред първите опасности, които крие ИИ, е че той ще отнема на хомо сапиенс работните места. Този процес разбира се не почва с Bard или Midjourney – който е пътувал по развития свят знае, че там все по-рядко ще стигнеш до жив човек на телефона или гишето. В една голяма част от развиващия се свят, към който включвам и туристическата ни родина, тия технологии скоро няма да навлязат. Ще има едни луксозни компании, които могат да си го позволят и други, които ще си останат на ръчно управление. Т.е. глобалното неравенство ще постигне и нас, бедните роднини. Но защо се плашим при положение, че със същата страст се оплакваме от липсата на работна ръка, от спадащата глобално раждаемост, засилващата се, пак глобално, ксенофобия. Защо да ни застрашава ИИ - няма ли той просто да компенсира липсващите работници?

Още плашила

Тук има два проблема. Единият е нежеланието на хората да се адаптират към новата ситуация и съответно да разклатят постигнатото житейско равновесие. Леля Сийка, която обслужва едно гише, да се преквалифицира в контролираща обслужването на 100 гишета. И да получи съществено повишение на заплатата, разбира се. Но леля Сийка е на 55 години, няма за кога. Другият проблем е свързан с преразпределението: ИИ безспорно ще доведе до скок в производителността, както е станало с парната машина или електричеството. Кой ще спечели сега, ще последва ли някакво преразпределение на продукта, ще се наложат ли нови битки и революции? Или на средния човек ще се подхвърли един безусловен базов доход, така че държавата да го отглежда като домашен любимец? Впрочем, самата тази шеметна роля, които добиват индивидуални мултимилиардери в съвременния свят, е плашеща. Изстрелват ракети в космоса, имплантират чипове в мозъци, създават наш мега-двойник. Отделни емпирични лица без институционална отговорност.

Забавни ни изглеждат стачките на холивудските сценаристи и артисти, уплашени, че в индустрията на забавлението скоро ще използват синтетични сюжети и анимирани техни двойници (защото, доколкото разбирам, човек все още няма авторско право над лицето си). Когато през 19-и век се появява фотографията, художниците съвсем не реагират по този начин – занаятчийското фотографско изображение за тях е инструмент в сътворяването на истинското изкуство, високата кавалетна живопис. Постепенно двата жанра се разделят – фотографията си става изкуство само по себе си, живописта тръгва към абстракция, фантазия, експеримент. Не бих се учудил и сега да стане нещо такова, синтетичното изкуство да се развие в своя посока, а собствено човешкото да засили своите творчески елементи.

Най-високо недоверие буди ИИ в сферата на самоуправляващите се превозни средства (както и впрочем в медицината). Защо е така, при положение, че катастрофите на тези автомобили в Калифорния са в пъти по-редки? Защото няма кой да поеме отговорност. Няма как да накажеш машината за грешка, а да се търси създателят на програмата е юридически трудно.

В периферни страни като България

От подобни употреби на ИИ в България сме още по-далеч. Тук още живеем в началото на 20-и век - слагаме колчета по средата на пътя, за да затрудним изпреварването. Какво ти дигитализиране! А в периферни страни като нашата проблемът има още един нюанс: тези технологии навлизат отвън, например картата на нашите пътища се прави от Гугъл, а ако някога тръгнат самоуправляващи се коли, няма да ги направляваме ние. Да не си мислите, че тук защитавам някакъв дигитален суверенитет - просто търсенето на отговорност в глобалния свят е много трудна работа. Предпише ти някакво лекарство американският ИИ, изприщиш се, пък после върви, че му търси отговорност.

Не е достъпна за всички култура

По следите на отговорността стигаме и до най-страшната употреба на новата технология, за която у нас рядко се говори, макар че в Украйна сме вече на крачка от нея: военната. Става дума за машини, които сами откриват противника и го унищожават, без да чакат човешка команда. Различни граждански движения има срещу тази употреба, а и не сме съвсем наясно докъде е напреднал ИИ във военно отношение. Но сме сигурни, че процесът едва ли ще спре на добра воля - колкото спря ядрената надпревара във времето на Студената война. В тази перспектива вървим към война между индустрии на ИИ, където човекът е само мишена и жертва по съседство. Разликата с дружелюбните, предложени на широката публика чатботове, е осезаема. Военната употреба прави видим и основния проблем с ИИ: той не е култура, достъпна за всички, а средство, с което едни (режими, корпорации, лаборатории) се сражават с други (режими, корпорации, лаборатории).

Остава да се надяваме, че за всеки заплашителен ИИ може да се изправи друг, който ни пази – ако например единият идва да ни бомбардира, другият ще сваля дроновете. Единият бълва фалшиви новини, другият ни сигнализира за това. Не си представям как техническото развитие може да спре - не се е случвало досега в историята двете страни да се откажат да използват барута, защото с него се убиват повече хора, отколкото със стрели, нали така? По-важно е да разбираме логиката на това развитие и да мислим как да го използваме в наша полза.

* Този коментар изразява личното мнение на автора и може да не съвпада с позициите на Българската редакция и на ДВ като цяло.