[Став] Вештачки идиотизам

Проблемот со новите чет-ботови не е само тоа што често се глупави и наивни, туку е дека не се доволно „глупави“ или „наивни“ за да можат да ги забележат нијансите во изразувањето, да ја разберат иронијата и не можат да ги откријат противречностите што ја сочинуваат човечката култура и комуникација. Згора на тоа, потпирајќи се на нив, и ние ризикуваме да подлегнеме на истата тапост.

Чет-ботовите што се способни да водат разговор на природен јазик, да ја разберат основната намера на корисникот и да понудат одговори врз основа на претходно поставени правила и податоци не се ништо ново. Меѓутоа, капацитетот на чет-ботовите драстично е зголемен во последниве месеци, што предизвика загриженост и паника во многу кругови.

Многу се зборуваше за тоа дека чет-ботовите се предвесници на крајот на традиционалниот студентски есеј. Меѓутоа, прашање кое заслужува поголемо внимание е како чет-ботовите треба да реагираат кога човечките соговорници користат агресивни, сексистички или расистички изјави за да го поттикнат ботот да ги претстави сопствените вулгарни фантазии како одговор. Дали вештачката интелигенција треба да се програмира да одговара на исто ниво како и прашањата што се поставуваат?

Ако одлучиме дека е потребно некакво регулирање, тогаш мора да одредиме до каде треба да оди цензурата. Дали ќе бидат забранети политичките позиции што некои групи ги сметаат за „навредливи“? Што е со изразувањето солидарност со Палестинците од Западниот Брег или тврдењето дека Израел е држава на апартхејдот (што поранешниот американски претседател Џими Картер еднаш го стави во наслов на книга)? Дали овие ќе бидат блокирани како „антисемитски“?

Проблемот е и поголем од тоа. Како што предупредува уметникот и писател Џејмс Брајдл, новата вештачка интелигенција се „заснова на присвојување на постоечката култура ‘на ангро’“, а верувањето дека таа „фактички има познавања или е значајна е навистина опасно“. Оттука, треба да бидеме многу претпазливи и за новите генератори на слики базирани на вештачка интелигенција. „Во нивниот обид да ја разберат и реплицираат целината на човечката визуелна култура“, забележува Брајдл, „се чини дека [новите видови вештачка интелигенција] ги пресликаа и нашите најмрачни стравови. Можеби ова е само знак дека овие системи се навистина многу добри во помајмунување на човечката свест, сè до ужасот што демне во длабочините на постоењето: нашите стравови од нечистотија, смрт и корупција“.

Колку, всушност, е добра новата вештачка интелигенција во приближувањето до човечката свест? Да го земеме за пример барот кој неодамна рекламираше специјална понуда што гласеше вака: „Купи едно пиво по цена на две и второто пиво го добиваш сосема бесплатно!“ За секој човек ова е очигледна шега. Ја измениле онаа класична понуда „купи едно, добиј едно бесплатно“, па не добивате ништо бесплатно. Тоа е израз на цинизам што ќе се цени како комична искреност, со цел да се зголеми продажбата. Дали чет-бот би го разбрал ова?

Зборот „ебе“ претставува сличен проблем. Иако означува активност во којашто повеќето луѓе уживаат (копулација), исто така, често добива негативна валентност („Нè заебаа!“ „Оди еби се!“). Јазикот и реалноста се неуредни. Дали вештачката интелигенција е подготвена да забележи такви разлики?

Во својот есеј од 1805 година „За постепеното формирање на мислите во процесот на говор“ (првпат објавен постхумно во 1878 година), германскиот поет Хајнрих фон Клајст обратно ја претставува општата мудрост дека не треба да ја отвораме устата за да кажеме нешто освен ако имаме јасна идеја што ќе кажеме: „Според тоа, ако една мисла е изразена на нејасен начин, тоа воопшто не значи дека мислата е смислена на конфузен начин. Напротив, сосема е можно идеите кои се изразени на најконфузен начин да биле најјасно обмислени“.

Односот помеѓу јазикот и мислата е извонредно сложен. Во еден пасус од еден од говорите на Сталин од раните 30-ти години од 20 век, тој предлага радикални мерки со цел „да ги откриеме и безмилосно да им се спротивставиме дури и на оние кои се противат на колективизацијата само во своите мисли – да, сериозен сум, треба да се бориме дури и со мислите на луѓето“.

Со сигурност може да се претпостави дека овој пасус не бил однапред подготвен. Понесен од моментот, Сталин веднаш станал свесен за тоа што го кажал. Но, наместо да го повлече кажаното, тој решил да се држи до својата хипербола.

Како што кажал Жак Лакан, тоа е пример кога вистината се појавува изненадно, преку чинот на изговарање. Луис Алтусер идентификувал слична појава во интеракцијата помеѓу сфаќањето и изненадувањето. Некој кој одеднаш ќе разбере (сфати) идеја ќе биде изненаден од она што го постигнала. Повторно, дали некој чет-бот може да го направи тоа?

Проблемот не е што чет-ботовите се глупави; туку е дека тие не се доволно „глупави“. Не е дека се наивни (не забележуваат иронија и кај нив нема рефлексивност одн. согледување на сопствената улога во процесот); туку дека тие не се доволно наивни (не забележуваат кога наивноста е само маска за лукавоста).

Вистинската опасност, значи, не е дека луѓето ќе помешаат чет-бот со вистинска личност; туку е дека комуникацијата со чет-ботовите ќе ги натера вистинските луѓе да зборуваат како чет-ботови – не забележувајќи нијанси и иронија, опсесивно прецизно кажувајќи го само она што мислат дека сакаат да го кажат.

Кога бев помлад, еден мој пријател отиде кај психоаналитичар на терапија по трауматично искуство. Замислата на пријателот за тоа што таквите аналитичари очекуваат од своите пациенти беше клише, па тој ја поминал својата прва сесија кажувајќи лажни „слободни асоцијации“ за тоа колку го мрази татка си и дека посакува тој да умре.

Реакцијата на аналитичарот била досетлива: тој пристапил наивно и „пред-фројдовски“ и му замерил на мојот пријател што не го почитува татка си („Како можеш така да зборуваш за личноста што те направила тоа што си?“). Со оваа лажна наивност тој испратил јасна порака: Не верувам во твоите лажни „асоцијации“. Дали чет-бот би можел да ја сфати ваквата скриена смисла?

Најверојатно не, бидејќи тоа е како толкувањето на Роуан Вилијамс на принцот Мишкин од „Идиот“ на Достоевски. Според стандардното толкување, „идиотот“ Мишкин е светец, „навистина добар и убав човек“ кој е доведен во изолирано лудило поради суровите бруталности и страсти на реалниот свет.

Но, во радикалното препрочитување на Вилијамс, тој го претставува Мишкин како центарот на бурата: иако е добар и безгрешен, тој е оној кој предизвикува хаос и смрт и потоа ги сведочи последиците, благодарение на неговата улога во замрсената мрежа на односи што го опкружува.

Не е само дека Мишкин е наивен и прост. Туку, поради неговиот посебен вид на тапост тој не е ни свесен какви катастрофални последици им предизвикува на другите. Тој е дводимензионална личност која буквално зборува како чет-бот. Неговата „добрина“ лежи во фактот што, налик на чет-бот, тој реагира на предизвиците без иронија, нудејќи флоскули без каква било рефлексивност, сфаќајќи сè буквално и потпирајќи се на ментално автоматско довршување на зборовите, а не на автентично формирање идеи.

Затоа, новите чет-ботови многу добро ќе се сложуваат со идеолози од сите табори, од денешното „освестено“ граѓанство до националистите под кредото „Да ја направиме Америка повторно голема“ (МАGA) кои претпочитаат да бидат заспани.