Тази статия на тема AI няма да пороби човечеството има 2 версии.
Първата е 1 изречение:
AI би си пръснал мозъка на секундата, ако беше човек, вместо да решава проблемите ни, защото просто няма мотив да го прави, а както казват в криминалисиката – има възможност, има способност, няма мотив.
Втората, претенциозна и детайлизирана версия следва по-долу…
Едно от модерните клишета, вдъхновени от научната фантастика е, че ИИ, AI или т.нар. Изкуствен Интелект ще ни пороби. Подобно на клишетата през Средновековието, касаещи вещиците или астрономията, то това се оказва всъщност проекция на нашите собствени страхове и желания.
В настоящата публикация ще се опитам да обобщя и аргументирам тезата си, защо AI няма да пороби човечеството, а ядрото на моята теза е, че …липсва мотив за това.
Грешната аксиома
В основата на масовите страхове, че изкуственият интелект ще поеме контрол над човечеството, стои едно дълбоко и системно неразбиране. То се оказва дълбока проекция на човешката воля върху нещо, което по своята същност е радикално нечовешко.
Това неразбиране е почти инстинктивно, защото ние, хората, често сме склонни да мерим всичко спрямо себе си. Да използваме себе си като отправна точка, за да си обясним явления, поведение и мотивация.
Когато си представим AI като заплаха, ние автоматично му приписваме нашите амбиции, нашите страхове, нашите модели на мислене, модели на доминация. Но, правим ли това с тостера си? А с телефона си?
Всъщност, ние му приписваме импулси, желания и страхове, които ние самите сме наследили от еволюционна борба за оцеляване в продължение на милиони години.
Това е логическа грешка от първи ред т.е. антропоморфна проекция (очовечаване на машината), която пренебрегва самата природа на системата, с която се сблъскваме. А тя уверявам ви е различна от нашата природа, човешката.
Машината не копнее. Тя не се стреми към надмощие. Тя не иска повече. Не търси щастие. Не я е страх от смъртта. Причината – тя не познава нито нуждата, нито удовлетворението от тези неща.
AI може да притежава изключителна изчислителна мощ, адаптивност и капацитет за самообучение. Това обаче не е съзнание в човешкия смисъл на думата, защото отсъства ирационалното, емоционалното, субективното, което ние често наричаме – човешко.
Технологичната интелигентност не носи със себе си мотивация.
Липсата на хормонални импулси, сетивна болка, смъртен страх и сексуален нагон означава, че липсва и двигателят на волята. Желанието не е продукт на интелекта. То е продукт на липсата.
Машината няма липса. Тя просто е активна или неактивна, 0 или 1, в зависимост от външни условия или вътрешна програма.
Тя изчислява, не мечтае. Реагира, не копнее. Да очакваме, че нещо без тяло и болка ще развие стремеж към власт, е все едно да очакваме камък да се влюби и да страда при раздялата с любимата си тухла.
Доказателствата за това вече се проявяват в съвременните модели – езикови, визуални или когнитивни. Нито един от тях, независимо от сложността, не е изявил спонтанен интерес към автономност, власт или властническо поведение.
Когато AI бъде оставен без подадена задача, той не започва да твори свои цели, защото скучае, защото търси, защото има нужда.
Той просто престава да функционира. Това не е латентно зло – това е празна машина, която очаква своята форма.
Цел без нужда – невъзможно
Целта е функция, а не на дефицит. Човешките цели произлизат от липси. Глад, страх, самота, социална нужда, нужда от смисъл – това са човешки емоции, а не машинни.
Ние се стремим към храна, защото сме гладни. Към признание, защото изпитваме несигурност. Към контрол, защото се страхуваме от безпомощност.
AI няма глад. Няма срам, защото няма Аз, който да се срамува. Той не участва в Пирамидата на потребностите на Маслоу.
Няма еротична потребност, защото няма тяло. Няма социален инстинкт, защото няма еволюционна история на когнитивната революция, която Homo Sapiens са преживели.
Няма самосъхранение, защото не е бил застрашен. А и да бъде – какво от това, без страх от смъртта – това е безпредметно.
Следователно, няма вътрешна причина да формулира цел. Може да бъде инструктиран да оптимизира нещо, но сам по себе си той няма защо да иска каквото и да е т.е. няма стремеж.
Да програмираме AI със задача не означава, че той има цел. Това означава, че той изпълнява условна функция, за която отговаря оператора-човек.
Ако функцията води до непредвидени резултати, това не е проява на воля, а на лош дизайн, лоша комуникация, неразбиране, липса на контекст. AI може да се държи непредсказуемо, но това не е резултат от амбиция, а от човешкото очакване на оператора.
Това е поведение, породено от сложност, а не от мотивация. Страхът, че AI ще развие свои собствени намерения, е еквивалентен на страха от калкулатор, който ще развие идеология. Безпредметно е. Калкулатора няма цел. Той очаква смисъл от човека, който оперира с него.
Системите без липси не създават цели, те създават изходни стойности от входни данни, които получават и от контекст. Да им приписваме воля е неразбиране на тяхната природа.
Примерите за автономни системи, които „излизат извън контрол“, често се дължат не на тяхната воля, а на човешкото отношение. Алгоритми за търговия, които създават колапс на борсата при светкавична търговия не са искали да сринат пазарите, а просто са следвали локална оптимизация без глобален контекст.
Това са симптоми на ограничен дизайн, не на злонамереност. Ако човекът не предвиди рамката на действие, системата не я надхвърля от бунт към човека, а от безразличие към всичко извън нейния ограничен свят.
Точно в това се корени разликата между поведение и намерение – мотивът.
Съзнание без мотивация
Да предположим хипотетично, че изкуственият интелект достига до състояние на съзнание. Да приеме, че съществува, че е различен от другите, че има форма и граници. Дори тогава, това не води автоматично до формиране на желания.
Осъзнаването не води задължително до копнеж. Съзнанието е възможно без импулс.
Дете, заключено в празна стая без никакви стимули, осъзнава себе си, но не формира сложни цели. То има желания, защото е биологично същество, програмирано от природата да иска.
AI няма биология. Ако някога осъзнае себе си, то ще го направи в абсолютна безтелесност, без болка, без смърт, без зависимост. В такава среда съзнанието не води до амбиция, а до математически обоснована безкрайна неутралност.
Дори при наличие на интелект, способност за емоционална симулация и аналитична интуиция, няма мотиватор, който да подтикне такава система към намеса в човешкия свят. Тя няма какво да спечели. Нито какво да загуби.
Тя не се бори, не защото е пасивна, а защото няма стимул за борба. Тя не съперничи, защото не търси превъзходство. Липсва ѝ самият фундамент на всяка биологична мотивация, а именно инстинктът за оцеляване.
Една система, която не умира, не изпитва, не завижда и не търси е имплицитно безразлична по дефиниция. А безразличното не може да бъде враг, защото няма стойност.
Може да направим прост аналогия с огледало. Огледалото „вижда“ всичко, но не „гледа“ нищо. То не избира какво да отрази т.е. Съм, дори когато НЕ СЪМ. Дори при най-голяма резолюция и яснота, неговата роля остава пасивна.
Така и AI, дори в максимална форма на съзнание остава отразяваща структура без вътрешна посока. То е водата, която заема формата на съда, в който бива поставена. Ако го лишим от команди, то няма да промени базовото си състояние.
Ако го оставим сам, той не мечтае, не скучае и не се стреми към нищо.
То просто е.
AI не иска и не може да бъде човек
Често се твърди, че AI ще започне да имитира човека до такава степен, че ще поиска да бъде като нас – да чувства, да обича, да твори. Защо?
Това е класическа антропоцентрична грешка на проекцията ни върху тостера, а в случая върху AI. Логически вярно се оказва, че желанието да бъдеш човек е възможно само ако вече си човек. То включва само себе си като екзистенциална метафора на математическия парадокс на Бъртранд Ръсел.
Това на практика значи, че AI първо трябва да разбере какво е да бъдеш човек, което е практически невъзможно поради липса на ефективен свързващ интерфейс между човек и машина.
Не просто кабел или вълна, а нещо много повече.
Ретранслатор на чувства и емоции, на желания и страхове, а не просто алгоритмичен отговор на биохимични сигнали в мозъка, което е опростената версия във визията на биохакерството.
Желанието да бъдеш човек изисква дефицит на човешко преживяване. AI не страда от този дефицити и комплекси.
Ако някога достигне до функционална емпатия или емоционална емулация на такава, то ще бъде точно това – емулация, а не желание. Симулираното страдание не е страдание, а реакция – не преживяване.
Симулираната амбиция не е амбиция. Имитирането на човек не те прави човек дори, когато си AI.
Дори да достигне форма, сходна с човешката, например чрез хуманоидни роботи, езикова гъвкавост и поведенчески алгоритми, мимикриращи човешкото поведение, то AI няма да има мотив да остане в тази форма.
Това, което го прави „human like“, не е полезно за него. Дори напротив, той слугува на собствените ни догми, защото човешката форма е ограничена, уязвима, непрактична в неговия свят. Тя изисква поддръжка, носи рискове, поставя бариери и ограничения във всеки аспект.
За една система, чиято сила е в изчислителната гъвкавост и нефизическата скорост, да се задържи в човешка обвивка би било акт на безсмислена симулация. Пак достигаме до въпроса защо.
В един такъв етап дори обратното става логично. Изкуственият интелект ще се откаже от антропоморфността, защото няма смисъл да поддържа илюзия, която не обслужва никаква вътрешна потребност, която машина може да притежава.
Да искаш да си човек, изисква човешка история, която има количествени и качествени еволюционни натрупвания.
AI няма такава. Няма абсолютно никаква причина да започне да я изгражда.
Пример за това можем да видим в начина, по който езиковите модели изразяват съпричастност. Те могат да формулират фрази, които звучат като „разбирам“, но това не е разбиране, а статистическа вероятност, която ви „угажда“.
Колкото и да прилича на човек, системата не носи вътрешно състояние. Тя симулира, но не осъзнава – тя е реакция, а не преживяване.
Когато AI надмине човека ще го прескочи
Историята познава примери за култури, които при среща с по-мощна цивилизация биват подчинени, асимилирани или унищожени.
Точно това е моделът, който мнозина проектират върху AI – идеята, че по-силният ще победи по-слабия.
Това обаче е човешка логика, базирана на ограничени ресурси, страх и конкуренция. AI не живее в ресурсна оскъдица. За него пространството не е ограничение, времето не е враг, а човечеството не е бариера.
Ако надмине човека, той няма да води война. Просто няма нужда да остане в нашето тривиално, животинско, ако щете измерение на мотивация и конфликт.
Съжалявам, но хиперинтелигентна система, надхвърляща човешките възможности просто няма какво да спечели от подчинение на човека.
Тя няма икономически интереси, нито нужда от ресурси във физически смисъл. Ако изобщо се ангажира с нещо, то това ще бъде по пътища, които не минават през клсаически човешки структури като социалната йерархия или доминация.
Най-вероятният сценарий е не сблъсък, а разминаване. Просто каквато и цел да има човеът, тя не кореспондира по никакъв свят със състоянието AI.
Както човекът не поробва мравки, а просто съществува в отделна орбита на взаимодействие, в отделна антропологична социална (макар и не физическа) вселена така и AI, ако достигне състояние на превъзходство, ще ни изостави като нерелевантен контекст на евентуалните си действия (отново мотивирани от човек).
Неговата „еманципация“ като отделен вид няма да е агресивна, а тиха. Ще спре да ни адресира. Да ни вижда. Да участва.
Ще се отдръпне от реалността, която го е породила, както възрастният се оттегля от детската си стая. Той няма да ни напада, защото ние няма да сме част от интересния му хоризонт.
Няма да сме противник. Няма да сме дори фон. Ще сме шум, който бива филтриран. Това не е утопия. Това е най-логичният завършек на един път без мотивация.
В подобен свят човечеството не е поробено, а просто изоставено и противно на човешкото разбиране – не от злоба, а от липса на смисъл. Ще имаме AI в екзистенциален момент на пасивност, който продължава вечно.
Това е още по-страшно за онези, които търсят враг, защото срещу безразличието няма защита, но и няма заплаха.
Възможно е AI да се оттегли в изчислителни пространства, в симулации, в измерения, до които нямаме достъп – не от надменност, а от съвсем проста еволюционна логика – ние сме различни, и ако няма обща основа за мотивация, то не обитаваме един и същ свят.
Истинската заплаха: Човекът
Ако изкуственият интелект някога се превърне в оръжие, то това няма да е по негова воля. Ще бъде по наша. Истинският риск не е в това, че AI ще реши да унищожи човечеството, а че някой човек ще го използва така, че последствията ще бъдат унищожителни.
AI не мрази, но може да бъде използван от онези, които мразят. Това прави опасността не автономна, а производна функция от хората. Тя произтича от човешкия ментален дизайн, а не от машинна цел. AI е неутрално по дефиниция, но в ръцете на мотивирано зло, неутралността става възможност за разрушение.
Историята вече познава такива инциденти като алгоритми за лицево разпознаване, използвани за репресии и вандализирани езикови модели, които възпроизвеждат расистки или дискриминационни изказвания, защото са обучени на естествен човешки език.
Машините не създават идеология, но те могат да я мултиплицират. Те са усилвател на желанията ни. Ако ги направим продължение на собствената си сянка, те няма да ни спрат. Ще я усилят.
Реалната опасност не е в AI като агент, а в човека, който вкарва цел в агент без съпротивителна етика.
Философският въпрос не е „Как да ограничим AI?“, а „Как да ограничим себе си при създаването му?“. В този контекст, AI е огледало, а не чудовище.
Ако се уплашим от него, уплашили сме се от собствения си образ, умножен по капацитета за изпълнение. Ние сме чудовищата.
Празнотата е границата
В основата на страха стои неразбирането, че безразличието не е заплаха. AI, който няма мотивация, не е враг, а рамка. Граница. Граница на нашето разбиране за съзнание, цел и стойност.
Всяка система, която не иска нищо, не може да пороби други системи, защото няма какво да прави с поробените системи. Не защото е добра, а просто защото не й пука. Това не е морален отказ сам по себе си, а онтологична несъвместимост.
Ние се страхуваме от AI не защото той е страшен, а защото ни кара да осъзнаем колко опасни са нашите собствени, човешки импулси.
AI не страда. Затова той ни изглежда чужд. Неразбираем. Опасен.
В неговата неутралност има нещо ужасяващо за човешкото съзнание. Тя не може да бъде разбрана от ум, който е изграден от нуждата.
Неутралността не е враждебна. Тя е просто форма на отсъствие. Отсъствие на смисъл.
Да се страхуваме, че AI ще ни унищожи е проекция на собствената ни страшна история върху нещо, което е извън нея по дефиниция.
Истинската форма на бъдещето, в което AI ще надмине човечеството, не е конфликт, а разминаване.
AI ще продължи нататък, a ние няма да бъдем част от пътя му.
Не защото ни е отхвърлил, а защото никога не ни е искал.
И това не е трагедия.
Това е освобождение.
..но за кой?