Книгите ще ни четат нас

Хомо Деус представлява кратка история на утрешния ден. Авторът й Ювал Ноа Харари е доктор по история от Университета в Оксфорд. Сега е лектор от Университета в Йерусалим. Неговата книга Сапиенс, кратка история на човечеството от 2014, предизвика световна реакция. Тя е сред книгите, преведени на повече от 40 езика. Ювал Ноа Харари разкрива визията си за бъдещето пред френското издание Sciences et Avenir :

Датаизмът е вярата, че цялата вселена се състои от потоци от данни. И всички явления могат да бъдат разбрани като резултат на обработката на данни. Доматът и човекът са два различни механизма за обработка на данни; както и комунизмът и капитализмът.

Съществената разлика между комунизма и капитализма е, че комунизмът разчита на централизирана система за обработка на данни. Докато капитализмът разчита на разпределена система. Според датаизма, това, което обикновено наричаме чувства и желания, всъщност са биохимични алгоритми. Чувствата не се основават на интуиция или вдъхновение – те се основават на изчисления.

Когато един павиан, жираф или човек видят лъв, страхът възниква, защото милиони неврони в мозъка изчисляват съответните данни. И заключават, че вероятността от смърт е висока. Обикновено не успяваме да осъзнаем, че чувствата са всъщност изчисления. Защото биохимичният процес на изчисление е толкова бърз, че се получава под прага ни на осъзнаване. Не усещаме милионите неврони в мозъка, които изчисляват вероятностите за оцеляване и възпроизводство. Така че погрешно вярваме, че страхът от лъвове, изборът на сексуални партньори или нашето мнение за Европейския съюз са резултат от някаква загадъчна „свободна воля“.

И накрая, датаизмът твърди, че обединявайки достатъчно биометрични данни и достатъчно изчислителна мощ, корпорациите и правителствата скоро биха могли да създадат алгоритми, които те познават по-добре, отколкото самият ти. И тогава властта ще се отдалечи от теб в посока към алгоритъма. Алгоритъмът може да разбере желанията ти, да предскаже решенията ти и да направи по-добър избор от твое име.

Започва с прости неща, като например – книгите, които да купиш и да прочетеш. Как хората избираха книги преди двадесет години? Те разчитаха на собствените си чувства и на препоръките на приятели. Сега все повече използваме Amazon. Когато влизате във виртуалния магазин на Amazon, се появява съобщение и ти казва: „Зная кои книги сте харесали в миналото. Хората с подобни вкусове също са склонни да обичат тази или онази нова книга. “

Това е само началото. Устройства като Kindle на Amazon са в състояние да събират постоянно данни за своите потребители, докато си четат книгите. Вашият Kindle може да следи кои части от книга сте прочели бързо и кои бавно. И още – на коя страница сте направили почивка, и на кое изречение сте изоставили книгата, никога да не я вземете отново. Ако Kindle се обновява със софтуер за разпознаване на лица и биометрични сензори, той може да знае как всяко изречение, което си прочел, е повлияло на сърдечната честота и кръвното ти налягане. Може да знае какво те е накарало да се смееш, какво те натъжава, какво те кара да се ядосваш.

Скоро книгите ще четат теб, докато ги четеш! И докато ти бързо забравяш повечето от това, което четеш, компютърните програми никога не трябва да забравят нещо. Подобни данни в крайна сметка би трябвало да позволят на Amazon да избира книги за теб с невероятна точност. Това също ще позволи на Amazon да знае точно кой си ти и как да натиска емоционалните ти бутони.

Логичното заключение в крайна сметка е, че хората ще дадат алгоритмите на властта да взема най-важните решения в живота им. И тогава тя ще може да избира какво да учат, за кого да се женят и за кого да гласуват на изборите.

Същността на тази революция е сливането на биотехнологиите с информационните технологии. Ако организмите са алгоритми, тогава наистина няма разлика между биотехнологиите и информационните технологии. Хакването на биохимичните алгоритми на организмите ще бъде ключът за препрограмиране на тези организми (с генно инженерство). То ще е и път за овластяване на изкуствения интелект. С напредването на информационните технологии, биотехнологията ще се подобри.

Колкото повече изчислителна сила имаме, толкова по-лесно става да анализираме биологичните модели. По-лесно ще се учим да диагностицираме болести и да идентифицираме емоционалните модели. Тези способности на свой ред ще направят възможно изкуственият интелект да лекува човешки заболявания. И още: да идентифицира човешки терористи, да препоръчва човешки приятели и да се движи по улица, пълна с човешки пешеходци.

Изкуственият интелект има огромен потенциал. Автономните превозни средства могат значително да намалят пътнотранспортните произшествия и замърсяването, докато ИИ лекарите могат да предоставят здравни грижи на стотици милиони хора, които в момента не получават почти никакво здравно обслужване.

ИИ представлява обаче и опасност. Не се страхувам много от холивудските сценарии. В типичния научно-фантастичен филм, след като компютърът развива висока интелигентност, неизбежно също така придобива съзнание и след това или някой човек се влюбва в компютъра, или компютърът се опитва да убие всички хора. Това са нереалистични сценарии, защото интелигентността и съзнанието всъщност са много различни неща. Интелигентността е способността да се решават проблеми, докато съзнанието е способността да усещаш и желаеш нещата.

При хората и другите бозайници интелигентността върви ръка за ръка със съзнанието. Банкерите, шофьорите, лекарите и съдиите разчитат на чувствата си, за да разрешат определени проблеми. Компютрите обаче могат да решат тези проблеми по много различен начин от хората и няма абсолютно никаква причина да се мисли, че те ще развият съзнание по време на този процес. През последния половин век е имало огромен напредък в компютърната интелигентност, но в компютърното съзнание е имало точно нулев напредък.

Може да има няколко алтернативни пътя, водещи до интелигентност, и само някои от тези пътища включват придобиване на съзнание. Точно както самолетите летят по-бързо от птиците, без да се развиват пера, компютрите могат да решават проблеми много по-добре от хората, без да се развиват чувства. Разбира се, за да се лекуват човешки заболявания, да се идентифицират човешките терористи, да се препоръчват човешки партньори и да се навигира по улица, пълна с човешки пешеходци, ИИ ще трябва да анализира човешките чувства точно. Но може да го направи, без да има собствени чувства.

Затова не мисля, че е много вероятно ИИ внезапно да започне да съзнава, да развива неконтролируеми желания и да убива хора. Аз съм много по-притеснен от две други опасности. Първо изкуственият интелект на компютрите може да даде големи възможност на естествената глупост на хората.

Роботите никога няма да решат да убиват хора със собствена свободна воля – но хората, които контролират роботите, могат да им наредят да го направят. Точно защото роботите нямат съзнание и никакви собствени чувства, те никога няма да се бунтуват срещу своите господари, без значение какви ужаси им е заповядано да правят.

Една армия от роботи вероятно щеше да удуши Френската революция в люлката й през 1789 г. и ако през 2011 г. Хосни Мубарак имаше контингент от убийствени роботи, би могъл да ги отприщи срещу народа, без да се страхува от дезертьорство. По същия начин империалистическото правителство, разчитащо на роботска армия, може да води непопулярни войни, без да се страхува, че роботите му някога ще загубят мотивацията си.

Другият основен страх е, че ИИ и роботиката ще обогатят малък елит на места като Силициевата долина, като същевременно изтласкват стотици милиони хора от пазара на труда. Човечеството може да бъде разделено на малка горна каста на свръхчовеци и огромна „безполезна класа“ на хора, лишени от икономическа стойност и политическа власт.

Повечето учени са твърде вглъбени в тесните технически детайли на своята област и не са достатъчно заинтересовани от социалните и политическите последици от своите открития. Те също така са склонни да имат прекалено оптимистична представа за човешката природа и за употребата, която хората ще приложат в техните изобретения. Призовавам учените да помнят, че каквото създават, няма да бъдат контролирани от тях – ще бъде контролирано от хора като Тръмп, Путин, Ердоган и Нетаняху.

Още не знаем, защото сме далеч от разбирането на ума. Много хора, включително много учени, са склонни да бъркат мозъка с ума, но те наистина са много различни неща. Мозъкът е материална мрежа от неврони и синапси. Умът е поток от субективни преживявания, като болка, удоволствие, гняв и любов. Науката предполага, че мозъкът по някакъв начин произвежда ума и че биохимичните реакции в милиарди неврони по някакъв начин създават преживявания като болка и любов.

Досега обаче нямаме абсолютно никакво обяснение за това как умът излиза от мозъка. Как така, когато милиарди неврони изгарят електрически сигнали в определен модел, чувствам болка, а в различен модел, чувствам любов? Нямаме никаква представа.

Това е най-големият пропуск в нашето разбиране за живота. И това е много опасна празнота. През миналите столетия сме придобили контрол над света извън нас и преоформихме цялата планета, но защото не разбирахме сложността на световната екология, промените, които направихме, по невнимание нарушиха цялата екологична система.

През следващия век бихме могли да придобием контрол над света вътре в нас и да прекроим нашите тела и мозъци, но тъй като ние не разбираме сложността на собствените си умове, промените, които ще направим, биха могли по невнимание да нарушат цялата ни умствена система.

В практическите си измерения това е най-голямата революция не само в историята на човечеството, но и в самата история на живота. В продължение на четири милиарда години животът се управляваше от законите на естествения подбор. През всичките тези векове, независимо дали сте вирус или динозавър, вие се развихте според принципите на естествения подбор. Освен това, независимо от странните форми на живота, той остава ограничен в рамките на органичното царство.

Независимо дали сте кактус или кит, вие сте били направени от органични съединения и сте останали подчинени на законите на органичната химия. През следващите два века обаче науката би могла да се появи в ерата на неорганичния живот, оформян от интелигентен дизайн. Не интелигентният дизайн на някой бог над облаците, а по-скоро нашият интелигентен дизайн и интелигентният дизайн на изчислителните ни облаци.

Това може да е за добро, ако знаем как да го използваме. Но хората са много привързани към спечелването на власт, отколкото да я използват разумно. Ето защо днес сме хиляди пъти по-силни, отколкото в каменната ера, но не изглеждаме значително по-щастливи.

От Мегавселена /със съкращения/

Оставете отговор

Please enter your comment!
Моля въведете името ви