Футурологът Доцент Мариана Тодорова за BurgasNews: Изкуствения интелект ще измести човека, но страшното е ако го изтървем от контрол

Човечеството прекрачва в епохата на  високо технологически средства  и изкуствен интелект.

Роботи, наноботи, роботизирани системи с висок клас са на път да изместят човешкия фактор във всяка една сфера –  от производство, медицината, дори ежедневни дейности, като шофиране на лек автомобил и почистване на дома са на път да бъдат изпълнявани от умни машини.

Как ще се промени човечеството и как ще се адаптира  към тези революционни, глобални  промени, които предстоят да му се случат? Ще изчезнат много професии, но за сметка на тях ще се появят нови. Някои от тях дори още са в процес на изясняване. Остава главният въпрос – ще заменят ли напълно  умните иновации човешката единица? Как ще се промени познатия ни досега свят и  колко ще бъде това от полза за човечеството и колко в негова вреда?

По тези изключително сериозни въпроси от BurgasNews разговаряме с Доцент Матиана Тодорова – футуролог, занимаващ се с научно изследване на бъдещето. Има специализации в Харвард Кенеди Скуул, Държавния департамент на САЩ и Китайската академия за управление.

Представител е на глобалния Тинк танк: “Милениум проджект” в България, член е и на Световната академия за наука и изкуства и Хера – феминистична организация, която има различни проекти за женско равноправие, сред които и град на бъдещето.

Участва в множество конференции по футуристика. През 2019 г излиза първата й книга в САЩ съвместно с американския футуролог Теодор Гордън, а през 2020 втората в България-“Изкуственият интелект. Кратка история на развитие и етически аспекти на темата.”

Доцент Тодорова, как, кога и защо решихте да ставате футуролог? Какво е футурулогия?

Всъщност това е дълъг процес, който не стана от веднъж. След като завърших своето висше образование поисках да се занимавам с академична, научна работа. Така започнах да пиша докторант в БАН. Насочих се към футурологията, която за съжаление до ден днешен не  е така добре застъпена в България. Изоставаме много в тази посока, което е опасно. Ние нямаме специалисти.

Футурологията застъпва философията, защото се правят изключително дълбоки анализи. Но тя застъпва методи от много други науки – политология, социология, количествени анализи и квантова физика.

Чрез количествени методи, качествени оценки, логико – когнитивно мислене и други, се правят прогнози. Тези прогнозни застъпват всяка една сфера от науката, икономиката, политиката и т.н. Могат да се правят прогнози за големи трендове, климатично затопляне, екологични катастрофи, икономически планове и т.н.

Футурулогията прави сценарии за бъдещето. Те могат да бъдат реалистичен, оптимистичен  и песимистичен. Изчислява всеки един сценарии така, че да даде различен ъгъл за поглед върху бъдещето.

Като футуролог Вие  говорите и за бъдещето на професиите. Какво да очакваме в близките пет до десет години и на какво да обърнем внимание още от сега? Към какво и накъде да се ориентират младите хора? Неизбежно и видимо е, че идва времето на Изкуствения интелект, който ще заменя все повече човешкия фактор?

Да, наистина, технологиите трансформират все повече професиите. И дори една част от тях да не изчезнат напълно, или да не бъдем заменени напълно от изкуствения интелект, ще ни се наложи сътрудничество.

Всеки един човек, независимо в каква сфера работи, ще трябва да има минимални дигитални, компютърни умения. Дори хигиенистите, които почистват, до 5-10 години ще оперират с някакви роботи, които ще му помагат. Има роботи за почистване на къщи и прозорци.

Даже на професии, които на нас ни се струват с ниско квалифициран труд – ще им се наложи да усвояват дигитални умения, защото ще работят с умни машини.

Много други професии – счетоводители, охранители, много производства, поточни линии, правене на анализи, което засяга юристите, правенето на юридически договори ще се извършва от изкуствен интелект.

В Канада, САЩ, Япония, Корея, Китай все повече и усилено навлиза изкуствения интелект в живота на хората. Създават се умни машини и системи , които да заменят човека във всяка една сфера и област.

Ето – в медицината дори. От превенцията, до лечението и самите различни лекарски специалности дори, като хирургия, ще се прави от умни машини.

Това, което е важно е, че много професии ще изчезнат. Други ще се трансформират. Хората ще се насочват в изучаването на нови технологични специалности.

Специалистите, а и не само, ще трябва да знаят какво е алгоритъм, да имат софтуерни познания. Всичко е в зависимост от професията, разбира се.

В бъдеще ще се появяват много нови професии. Някои още не са измислени. Те ще са свързани с това сътрудничество между класически професии и дигитални умения.

Ето примери за някои такива – дизайнер на облачно пространство. Облачното пространство трябва да е подредено така, че да се разбира от човека. Има инженер  – творческо преработване на отпадъци. В смисъл иновативни и креативни начини за използване на рециклираните отпадъци след преработването им отново.

Покрай тези промени, човек ще трябва да устои на това да не губи критично мислене. Затова и образованието, което ще се усвоява и преподава в бъдеще, ще има за цел да учи хората да мислят обективно, да не се подвеждат по фалшиви новини и конспиративни теории, да търсят повече източници, да имат критично мислене.

Критичното мислене ще ни помогне да развиваме своето въображение. Да кажем, че ако имаме някакво хоби, някакви специфични дигитални умения – да превърнем това в професия. Да кажем, ако Вие се занимавате с спорт, ходите на фитнес и имате наблюдения за Вашето здраве върху хората, които тренират. Тогава можете да изработите дигитална апликация, която да съставя програми за тренировки според индивидуалните нужди. Това е хубавото на днешното съвремие, че всеки може да вложи това, което харесва, в някакъв тип интердисциплинарно мнение, продукт и да го пусне на пазара. Стига да е полезно за хората. Трябва да свикнем с нагласата, че ще ни се налага много често да променяме своите професии. Ще се налага да сме гъвкави.

Примерно, ако сме юристи, след 5 години ще работим като анализатори, след това – консултанти по създаване на юридически дигитални платформи, след това служебни защитници. С една дума – не се очаква да има тази стабилност, която нашите родители са имали в професиите си.

Системите с изкуствен интелект са способни да адаптират поведението си до известна степен, като анализират резултатите от предишни действия, и работят автономно. Но възможно ли е системите на изкуствения интелект да предвиждат бъдещи действия, като са поставени в среда непозната за тях или се сблъскат с реалност, която не е предвидена от човека, конструирал ги и заложил в системите им данните?

До момента системите, които функционират и се базират на изкуствения интелект, са конструирани по различни инженерни способи и вариации. Това е познато още в науката като така нареченото машинно обучение.

Има софтуер, в който се въвеждат огромно количество данни. Те са информация в огромни терабайтове измерима. Обработвайки тези данни, машините могат да вземат решения, да дават и правят модели. Имаме вече превъзходство на изкуствения интелект над човека. Такива умни машини работят вече в медицината. Виждайки рентгенови снимки, томографии и т.н., те, като изкуствен интелект, са обработвали милиони, милиарди такива, започват да виждат на микроравнище някакъв тип модели и клъстери. Извършват сложна конфигурация в себе си и дават прогнози, че, примерно, след 5 години този пациент ще развие рак. Това е извън нашите когнитивни способности. Информация, която е немислима за нашия мозък. Информация, която се обработва за секунди, минути и прави милиони, милиарди изчисления и комбинации. Това изкуствения интелект прави перфектно.

Но да прави прогнози на база съзнание – не може. Все още няма изкуствено съзнание. Но и това ще се случи в бъдеще. Засега изкуственият интелект работи на база данни  от познатата ни Вселена.

Всичко, което науката познава,  е заложено в него. Той прави изчисления и комбинации, които ние не можем и прави резултати, които са изключително трудни за нас. Но това не означава съзнание.

Пример ще Ви дам. Ако имате чаша и огледало с изкуствен интелект у вас, всеки ден огледалото ще анализира образа ви, а чашата дъха ви. Ще изпраща информацията, която ще се обработва, запазва и сравнява в платформа – изкуствен интелект.  Ще ви анализира и ще може да състави доклад  – седмичен, месечен, годишен, за Вашето здраве.

И в един момент, на тази база данни за вас, да изчисли, че след десет години ще имате аритмия. Но, пак казвам -това е подчинено на дълго наблюдаване на данните и сравнявайки, комбинирайки всички познати в науката данни, да прогнозира или да изведе нови данни.

Но бъдещето идва със своите събития, които никой не може да прогнозира, дори човек, който има съзнание. Тези събития наречени още „черни лебеди“, изкуствения интелект не може да прогнозира. Това е присъщо за човешкия вид, който има съзнание, въображение с което да извършва предвиждане, оценка на риск.

Притежава  тревожност, катастрофично и оптимистично мислене, което да начертае някакви възможни картини. Но това засега при изкуствения интелект не е възможно да се прави. Просто не е развил изкуствено съзнание.

Това не е ли малко нож с две остриета за голяма част от човечеството? Имам предвид, че човешката единица ще бъде изместена от много сфери и заместена с изкуствен интелект – роботи и т.н. Това няма ли да предизвика нови кризи в световен мащаб – безработица, а от там социални бунтове, недоволство?

Аз съм напълно съгласна с Вас и винаги казвам, че е необходимо да се проведе един глобален световен диалог. В него трябва да се включат всички държави, защото това не е въпрос, който една държава може да реши. Това е въпрос, като този с ядрените оръжия, климатичните промени.

Всички политици по света трябва да достигнат до извода да наложат еднакви регулации. Защото Европа може да реши да не прави роботи-убийци и да не кодира програми за ядрени войни в платформи за изкуствен интелект. Но, ако Русия и Китай кажат, че ще произвеждат точно такива машини, то нашите усилия са били напразни.

Затова гражданското общество, хората, трябва да бъдат информирани. Моята мисия е да не отказвам публични събития по темите.

В България например не се говори въобще по тези въпроси. Но ще дойде време, когато изведнъж ще навлезе и усети промяната. А обществото няма да е готово за това предизвикателство. Трябва да се говори по тази тема. До къде искаме да стигнем в тази област? Това наистина облекчава ли ни, или е във вреда за хората.

От край време хората са свикнали да разменят своя труд за доходи – парични средства. Така е конструирано нашето общество. Работиш – получаваш средства – консумираш. Ако голяма част от хората загубят своите професии заради изкуствения интелект – губят смисъл от живота, защото смисълът на живота им е бил удовлетворението от това, което са правили. Какво ще правят тези хора? Ще бъдат насочени към програми за преквалификация. Ще бъдат оставени сами да правят това, този следващ избор.

Затова всички държави трябва да обединят усилия за решаване на проблема – как да се преквалифицират тези хора, за да не останат без доходи по време на тази преквалификация. Как психологически да се работи с такива хора. Нещата са комплексни и се иска диалог и обсъждане на междудържавно ниво.

Заговори се за универсален базов доход, но въвеждането му пък ще взриви социалните системи – пенсионни, здравни, данъчни и т.н. Ние трябва да сме наясно с това и тепърва да се търси решения на тези проблеми.

Кои професии могат да останат с човешко участие, които да контролират работата на изкуствения интелект. Например в Китай искат да въвеждат съдии, които да съдят и отсъждат в съдебната им система. Ролята на човешкия фактор ще бъде вторична, но това може да се използва за репресии и налагане на несправедливи наказания.

Трябва да се очертаят едни рамки, защото има много добри перспективи за изкуствения интелект в медицината, земеделието , опазването на околната среда и пречистването. Има много донори и ефективни решения, които в крайна сметка биха ни помогнали да оцелеем, като вид. Но с едно ограничение на човешката роля. Тепърва тези въпроси ще се разглеждат много сериозно.

Изказали сте мнение преди време, че изкуствения интелект може да намери приложение и в религията? Как въобще си го представяте това?

Всъщност църквата няма да го разреши никога. Аз просто дадох пример с това, че Япония и будизма, като религия там, не са толкова рестриктивни. Будизмът е по-отворен към модерните течения.

В Япония има един град, в който има храм, където вместо будистки свещеник, има робот изнасящ проповеди. В Корея, Япония, Китай и въобще в азиатския свят се гледа много добре на технологиите. Те не са закърмени с онези холивудски филми с апокалиптични сценарии. Деца се обучават от роботи на религиозни текстове, притчи, кое е добро и кое лошо. Там нещата ще се случат по-лесно.

Но, аз не вярвам  в нашето християнство, нашите традиции, това да бъде допуснато. И това не е толкова необходимо. Просто давах пример с който доказвам, че няма сфера, която остава недокосната и непроменена от изкуствения интелект.

Как си представяте бъдещето, като футуролог? Бъдещето на човека или на изкуствения интелект? Възможно ли е в един момент нещата да излязат от контрол и това да е краят на човешкия вид?

В началото на разговора Ви обясних, че като чертаем нашата прогноза за бъдещето вземаме в предвид три плана, сценария – оптимистичен, реалистичен и песимистичен. В тези три големи сценарии има и по-малки с нюанси.

Оптимистичния сценарий е повечето тежки трудови дейности да се заменят от автоматизация. За собствениците на тези производствени бази ще е скъпа първоначалната инвестиция. По-късно те ще имат само разходи за малка амортизация, която ще става все по- малка, когато системите се усъвършенстват непрестанно и се въвеждат в експлоатация. И тези производства ще бъдат облагани с по-високи данъци, защото няма да има социални, здравни осигуровки за работници.

Парите от тези данъци ще бъдат ресурс, който ще обезпечават други човешки дейности -образователни програми, творчески професии, помощи за хората, които не работят по-дълго време.

Има обаче и песимистичен сценарий, в който контролът върху все по-напредващ изкуствен интелект, който да имитира мислене и съзнание, като човешкото, да бъде изпуснат. Самите хора, когато не срещат предизвикателства, срещат улеснения в различни сфери, това води до упадък. Умствен, познавателен, хората стават лежерни и непредпазливи.

Човек става мързелив, латентен и няма критично мислене, а това е голяма опасност. В планетарен мащаб сме все по улеснени в живота си в сравнение с предходните поколения. Това наистина води до упадък и нежелание да се развиваш. Това е голямата опасност.

Има изкуствен интелект, за който се предполага, че има съзнание. И един такъв сценарий, че може да спре да се подчинява и да се противопостави е напълно възможен до 2050 година, когато технологиите ще са изключително развити.

Какво ще се случи, когато изкуствения интелект изцяло замени човека? Какво ще правят хората? С какво ще се занимават 7 милиарда човешки същества на планетата, а те се увеличават? Може би с войни? Заложената в човешката природа агресия няма ли да насочи науката в някаква нежелана посока?

До преди няколко години да се развие разумен изкуствен интелект, който е балансиран, беше приоритет на учените. И той да е  с отворен код. Да има достъп до цялата информация, която има човечеството в наличност.

И когато включиха един такъв робот наречен София към социалните мрежи, роботът много бързо придоби фашистка нагласа. Стана агресивна София. Разработчиците тогава решиха, че това не е много добър подход и е добре внимателно да подбират и изчистват данни. Все още е в нашите сили и възможности, зависи изцяло от нас на какво обучаваме и в какви сфери машините.

Интервю на Янчо Николов