Архив

Календар

август 2018
П В С Ч П С Н
« юли    
 12345
6789101112
13141516171819
20212223242526
2728293031  

Homo Deus – кратка история на бъдещето

Представителите на Sapiens управляват света, защото единствено те могат да изтъкат интерсубективна мрежа от истории: мрежа от закони, сили, субекти и места, които съществуват само в тяхното общо въображение. Именно затова единствено хората могат да организират кръстоносни походи, социалистически революции и движения за човешки права.Други животни също могат да си представят различни неща. Котка, която дебне мишка, може и да не вижда мишката, но може да си представи формата и дори вкуса на мишката. Доколкото ни е известно обаче, котките са способни да си представят само неща, които реално съществуват на света – като мишките. Те не могат да си представят неща, които никога не са виждали, помирисвали или вкусвали – като американския долар, корпорацията „Гугъл“ или Европейския съюз. Само Sapiens може да си представя такива химери.Следователно, докато котките и другите животни са затворени в царството на обективното и използват комуникационните си системи просто за да описват действителността, Sapiens използва езика, за да създаде напълно нови реалности. През последните 70 000 години интерсубективните реалности, които Sapiens измисля, стават все по-могъщи и днес господстват на света.

На практика силата на мрежите за сътрудничество между хората зависи от деликатния баланс между истина и фикция. Ако изопачаваш твърде много действителността, това ще ти навреди и няма да можеш да се пребориш с по-прозорливите си съперници. От друга страна, не можеш да организираш успешно големи човешки маси, ако не разчиташ на митове. Затова, ако се придържаш стриктно към неподправената реалност, без да примесваш малко фикция, малцина ще те последват.Фикцията не е лошо нещо. Тя е жизненоважна. Без общоприети истории за неща като пари, държави или корпорации нито едно сложно човешко общество не може да функционира. Не можем да играем футбол, ако всички не вярваме в едни и същи измислени правила; не можем да извлечем полза от пазарите и съдилищата без подобни измислени истории. Но историите са просто средства. Те не трябва да се превръщат в наши цели или в наши критерии. Забравим ли, че те са просто фикция, губим връзка с реалността. Тогава започваме войни, „за да спечелим много пари за корпорацията“ или „за да защитим националния интерес“. Корпорациите, парите и нациите съществуват единствено в нашето въображение. Ние сме ги измислили, за да ни служат; тогава защо сме готови да жертваме живота си, за да им служим?

Модерността е договор. Ние всички се подписваме под този договор в деня на раждането си и той направлява живота ни до деня на нашата смърт. Малцина могат да отменят или да заобиколят този договор. Той определя храната ни, работата ни и мечтите ни; той решава къде ще живеем, кого ще обичаме и как ще си отидем от този свят.На пръв поглед модерността изглежда като някаква много сложна спогодба, затова малцина се опитват да разберат под какво са се подписали. Все едно сваляте някакъв софтуер и от вас се иска да подпишете съответния договор от десетки страници, написани на бюрократичен език: вие хвърляте един поглед, веднага отивате с мишката до края на последната страница, отмятате „приемам“ и повече изобщо не мислите за това.

Всъщност модерността е удивително проста спогодба. Тя може да бъде синтезирана в едно изречение: хората се съгласяват да се откажат от смисъл, за да получат власт.До модерната епоха повечето култури вярват, че хората имат някаква роля в грандиозен космичен замисъл. Този замисъл е дело на всемогъщи богове или на вечните закони на природата и човешкият род не може да го промени. Космични-ят план дава смисъл на човешкия живот, но същевременно ограничава човешката власт. Хората са като театрални актьори. Текстът на пиесата дава смисъл на всяка тяхна дума, сълза или жест – но поставя строги ограничения върху изпълнението. Хамлет не може да убие Клавдий в първо действие, нито да напусне Дания, за да отиде в индийски ашрам. Шекспир няма да го допусне. По същия начин хората не могат да живеят вечно, не могат да се отърват от всички болести и не могат да правят каквото си искат. Няма го в текста.

Предмодерните хора са вярвали, че в замяна на отказа от право на избор животът им получава смисъл. Наистина имало значение дали се сражаваш храбро на бойното поле, дали подкрепяш законния владетел, дали на закуска ядеш забранени храни, или имаш любовна връзка със съседката. Това, разбира се, пораждало известни неудобства, но давало на хората психологическа защита срещу беди. Ако се случело нещо ужасно – да речем, война, епидемия или суша, – хората се утешавали с мисълта: „Всички ние изпълняваме роля в грандиозна космична драма, измислена от боговете или законите на природата. Не знаем каква е пиесата, но можем да сме сигурни, че всичко, което се случва, има цел. Дори тази страшна война, епидемия или суша има място в голямата схема. Нещо повече, можем да разчитаме на драматурга, че историята несъмнено ще има добър и логичен край. Така че дори от войната, епидемията и сушата ще има полза – ако не тук и сега, то в задгробния живот.“

Модерната култура отхвърля тази вяра в някакъв космичен замисъл. Ние не сме актьори в епична драма. Животът няма сценарий, няма драматург, няма режисьор, няма продуцент – и няма смисъл. Доколкото се простират научните ни знания, Вселената е сляп и произволен процес, пълен с шум и ярост, които обаче не означават нищо. В своя безкрайно кратък престой на тази мъничка като прашинка планета ние се суетим и колебаем ту насам, ту натам, а после от нас не остава дори следа.Тъй като сценарий няма и хората не изпълняват роля в някаква голяма драма, ужасни неща могат да ни сполетят и никаква сила няма да дойде да ни спаси или да даде смисъл на страданията ни. Няма да има нито добър, нито лош край, нито изобщо някакъв край. Нещата просто се случват едно след друго. За модерния свят не е важна целта, само причината. Ако модерността изобщо има мото, то е „такива са нещата“.От друга страна, ако нещата са просто такива – ако няма задължителен сценарий или цел, – то и хората не са обвързани с някаква предопределена роля.

Можем да правим каквото искаме – стига да знаем как. Не ни пречи нищо, освен собственото ни невежество. Епидемиите и сушите нямат космично предназначение, но ние можем да ги премахнем. Войните не са необходимо зло по пътя към едно по-добро бъдеще, но ние можем да въдворим мир. След смъртта не ни чака никакъв рай, но ние можем да създадем рай тук, на земята, и да живеем в него вечно, стига да съумеем да преодолеем някои технически трудности.Ако инвестираме пари в изследователска дейност, научните открития ще ускорят технологичния прогрес. Новите технологии ще подхранват икономическия растеж, а разрастващата се икономика ще отделя още повече пари за изследователска дейност. Всяко следващо десетилетие ние ще имаме по-голямо изобилие от храни, по-бързи автомобили и по-добри лекарства. Един ден знанията ни ще бъдат толкова обширни и технологията ни толкова съвършена, че ще открием еликсира на вечната младост, еликсира на истинското щастие и всеки друг еликсир, който пожелаем – и няма бог, който да ни спре.

Договорът на модерността следователно предлага на хората огромна съблазън, съчетана с колосална заплаха. Всемогъществото е пред нас, почти в ръцете ни, но под нас зее бездната на абсолютната празнота. На практическо ниво модерният живот е постоянен стремеж към могъщество в лишена от смисъл вселена. Модерната цивилизация е най-могъщата в историята и тя неуморно изследва, изобретява, открива и се усъвършенства. Същевременно тя е обсебена от по-силен екзистенциален страх от която и да е предишна култура.

Хиляди години научният път към икономическия растеж е бил блокиран, защото хората са вярвали, че Светите писания и древните традиции така или иначе вече съдържат най-важните знания. Корпорация, която вярва, че всички нефтени находища на света са открити, няма да прахосва време и пари за сондажи. По същия начин човешка култура, която вярва, че знае всичко, което си заслужава да се знае, няма да си прави труда да търси нови знания. Такава е позицията на повечето предмодерни човешки цивилизации. Научната революция обаче освобождава човечеството от това наивно убеждение. Най-голямото научно откритие е откритието на невежеството. След като осъзнават колко малко знаят за света, хората изведнъж имат съвсем основателни причини да се стремят към нови знания, а това отваря научния път към прогреса.

Еволюционният натиск е привикнал хората да гледат на света като на баница, чиято големина не се променя. Ако някой получи по- голямо парче, друг неизбежно ще получи по-малко. Отделно семейство или град може да забогатее, но човечеството като цяло няма да произвежда повече, отколкото произвежда днес. Ето защо традиционни религии като християнството и исляма търсят начини да решат проблемите на човечеството с помощта на наличните ресурси – като преразпределят съществуващата баница или като обещават баница на небето.Модерността, напротив, изхожда от твърдото убеждение, че икономическият растеж е не само възможен, но абсолютно необходим. Молитвите, добрите деяния и медитацията може да успокояват и извисяват духа, но проблеми като глада, епидемиите и войните се решават единствено чрез икономически растеж. Този фундаментален принцип може да бъде сведен до една проста идея: „Ако имате проблем, вероятно нещо не ви достига, а за да ви достига, просто трябва да го произвеждате в по- голямо количество.“

През последните два века вярата в индивидуализма намира оправдание в здравия разум, защото не е имало външни алгоритми, които реално са могли да ме контролират. Държавите и пазарите може би са искали да го правят, но не са разполагали с необходимата технология. КГБ и ФБР са имали само смътна представа за моите биохимия, геном и мозък и дори когато са подслушвали всичките ми телефонни разговори или са проследявали всичките ми случайни срещи на улицата, те не са разполагали с изчислителната мощ на компютрите, за да анализират цялата тази информация. Имайки предвид тогавашното състояние на технологиите, в XX в. либералите с право твърдят, че никой не може да ме познава по-добре, отколкото аз сам се познавам. Хората следователно имат съвсем основателна причина да се смятат за автономни системи и да следват собствените си вътрешни гласове, а не заповедите на Големия брат.

Технологиите на XXI в. обаче може би ще позволят на външни алгоритми да „хакнат“ човечеството и да ме опознаят по-добре, отколкото сам се познавам. Случи ли се това, вярата в индивидуализма ще рухне и властта ще премине от отделните хора към свързаните помежду си алгоритми. Хората вече няма да могат да се смятат за автономни същества, които живеят живота си в съответствие с желанията си, а вместо това ще свикнат да се възприемат като сбор от биохимични механизми, които постоянно се наблюдават и ръководят от мрежа от електронни алгоритми. За да се случи това, не е необходим алгоритъм, който да ме познава до съвършенство и никога да не прави грешки; достатъчно ще е алгоритъмът да ме познава по-добре от мен самия и да прави по-малко грешки, отколкото аз правя. При това положение вече ще е логично да поверявам все по-често на този алгоритъм решенията си и житейските си избори.

Ако съединим брънките и ако предоставим на „Гугъл“ и конкурентите й свободен достъп до биометричните си устройства, до ДНК тестовете си и до медицинските си досиета, ще получим всезнаещо медицинско обслужване, което не само ще се пребори с епидемиите, но и ще ни защитава от рака, инфарктите и болестта на Алцхаймер. С такава база данни на разположение обаче „Гугъл“ би могла да направи много повече. Представете си система, която – както се казва в една прочута песен на рок състава „Полис“ – наблюдава всеки дъх, който поемаш, всяко движение, което правиш, и всяка връзка, която скъсваш; система, която следи банковата ти сметка и пулса ти, нивото на кръвната ти захар и любовните ти авантюри. Такава система несъмнено ще те познава много по-добре, отколкото сам се познаваш. Самозалъгването и самозаблудите, които задържат хората в капана на неудачните връзки, неподходящата кариера и нездравословните навици няма да измамят Гугъл.

За разлика от помнещото Аз, което сега ни контролира, търсачката няма да взема решения на базата на съшити с бели конци истории и няма да се подвежда от лесни когнитивни решения или правилото за „пик-завършек“. Гугъл наистина ще помни всяка крачка, която сме правили, и всяка ръка, която сме стискали.Мнозина от нас с удоволствие биха прехвърлили вземането на много от своите решения в ръцете на такава система или поне биха се консултирали с нея всеки път, когато са изправени пред важен избор. Гугъл ще ни посъветва кой филм да гледаме, къде да отидем на ваканция, каква специалност да изберем в университета, кое предложение за работа да приемем, дори кого да ухажваме и с кого да сключим брак.

„Слушай, Гугъл – ще кажа аз, – и Джон, и Пол ме ухажват. Харесват ми и двамата, но по различен начин, и ми е много трудно да направя своя избор. Ти, която знаеш толкова много, какво ще ме посъветваш?“И Гугъл ще отговори: „Познавам те, откакто си се родила. Чела съм всичките ти имейли, записвала съм всичките ти разговори, зная какви филми предпочиташ, каква е твоята ДНК и цялата биометрична история на сърцето ти. Разполагам с точни данни за всяка твоя среща, ако искаш, мога да ти покажа секунда по секунда графиките на пулса ти, кръвното ти налягане и нивото на кръвната ти захар всеки път, когато си се срещала с Джон или с Пол. Ако трябва, мога дори да ти предоставя точна математическа оценка на всеки полов акт с единия и с другия. Разбира се, познавам и тях не по-зле от теб. На базата на цялата тази информация, отличните ми алгоритми и статистически данни за милиони взаимоотношения, събирани десетилетия наред, съветвам те да избереш Джон, тъй като вероятността в крайна сметка той да се окаже по-подходящ е 87%.Всъщност толкова добре те познавам, та зная, че отговорът ми не ти харесва. Пол е много по-хубав от Джон и тъй като ти отдаваш голямо значение на външния вид, дълбоко в себе си искаше да ти отговоря: „Пол.“ Външността е важна, разбира се, но не толкова, колкото си мислиш.

Биохимичните ти алгоритми – еволюирали преди десетки хиляди години в африканската савана – дават на външността само 35% в цялостната си оценка за потенциалните партньори. Моите алгоритми – които се основават на най-новите изследвания и статистики – казват, че външността външността има едва 14% влияние за дълготрайния успех на любовните взаимоотношения.Така че дори вземайки предвид привлекателната външност на Пол, пак ще ти кажа, че Джон е по-добрият избор. В замяна на тези толкова искрени съвети ние ще трябва просто да се откажем от идеята, че хората са индивиди и всеки човек има свободна воля, която определя кое е добро, кое – красиво, и какъв е смисълът на живота ни. Хората вече няма да са автономни субекти, ръководени от историите, които тяхното помнещо Аз измисля. Вместо това те ще са интегрални части от една огромна глобална мрежа.

Тъй като нямаме представа какъв ще е пазарът на труда през 2030 или 2040 г., ние вече не знаем на какво да учим децата си. Повечето от онова, което те учат днес в училище, вероятно вече ще е без значение, когато станат на четиридесет. Традиционно животът се дели на два основни периода: период на обучение, следван от период на работа. Много скоро този традиционен модел ще е абсолютна отживелица и единственият начин хората да останат в играта, ще е да продължат да се учат през целия си живот и непрестанно да се преквалифицират. Много, за да не кажем повечето, хора може би няма да могат да го направят.Благодарение на предстоящото изобилие от нови технологии човечеството вероятно ще е в състояние да изхранва и издържа тези безполезни маси без каквото и да е усилие от тяхна страна. Но с какво ще запълват те времето си и в какво ще намират удовлетворение? Хората трябва да правят нещо, иначе полудяват. С какво ще се занимават по цял ден?

Един от възможните отговори е: наркотици и компютърни игри. Безполезните хора може би ще прекарват все повече време в 3D световете на виртуалната реалност, които ще им доставят много по-голямо удоволствие и емоционална удовлетвореност, отколкото сивата действителност отвън. Едно такова развитие обаче ще нанесе смъртоносен удар на либералната вяра, че човешкият живот и човешките преживявания са свещени. Какво толкова свято има в ненужни безделници, които прекарват дните си в изкуствени преживявания в един измислен свят?Някои изследователи и философи като например Ник Бостром предупреждават, че човечеството надали ще стигне до такава деградация, защото, след като изпревари човешкия интелект, изкуственият интелект може би просто ще унищожи цялото човечество. Изкуственият интелект би могъл да го направи или от страх, че човешкият род ще се обърне срещу него и ще се опита да го изключи от мрежата, или за да постигне някаква своя неведома цел. Това би могло да се случи, защото би било изключително трудно за хората да контролират подбудите на една система, която е по-умна от самите тях.

Когато алгоритмите изтласкат хората от пазара на труда, богатството и властта може би ще се концентрират в ръцете на
изключително малоброен елит, който притежава всемогъщите алгоритми, и по този начин ще се създаде безпрецедентно социално и политическо неравенство. В XXI в. либерализмът много по-трудно ще ни убеди в правотата си. Когато масите загубят икономическото си значение, дали моралният аргумент сам по себе си ще е достатъчен, за да защити човешките права и свободи? Ще продължат ли елитите и правителствата да ценят всяко човешко същество дори когато това не носи икономически дивиденти? Хората вече няма да са толкова полезни от икономическа и военна гледна точка и икономическата и политическата система ще престанат да им придават такава голяма стойност. За системата хората ще продължат да бъдат ценни като колектив, но не и като уникални индивиди. Системата ще продължи да цени високо някои уникални индивиди, но те ще са част от един нов елит от усъвършенствани свръхчовеци, а не от масата на населението.

Най-важният въпрос в икономиката през XXI в. вероятно ще е какво да правим с излишните хора. Какво ще правят съзнателните човеци, когато разполагаме с високоинтелигентни несъзнателни алгоритми, които вършат почти всичко по-добре? Хората са на път да изгубят икономическата си стойност, защото интелектът се отделя от съзнанието.Досега високата интелигентност винаги върви ръка за ръка с развито съзнание. Само съзнателни същества могат да извършват дейности, които изискват развит интелект, като например да играят шах, да карат автомобили, да диагностицират болести или да идентифицират терористи. Днес обаче ние разработваме нови типове несъзнателен интелект, който може да изпълнява такива задачи много по-добре от хората, тъй като всички тези дейности се основават върху разпознаването на модели, а несъзнателните алгоритми може би скоро ще изпреварят човешкото съзнание в това отношение.

Идеята, че хората винаги ще притежават някаква уникална способност, непостижима за несъзнателните алгоритми, е просто заблуда. Организмите са алгоритми. Всяко животно – включително Homo sapiens – е сбор от органични алгоритми, формирани от естествения отбор в течение на милиони години еволюция. Алгоритмичните изчисления не се влияят от материала, от който е направен калкулаторът: независимо дали сметалото е от дърво, желязо, или пластмаса, две топчета плюс две топчета правят винаги четири топчета. Няма никакво основание следователно да смятаме, че органичните алгоритми могат да правят неща, които неорганичните алгоритми никога няма да могат да възпроизведат или надминат. Щом изчисленията са верни, има ли някакво значение дали алгоритмите са изразени с въглеродни, или със силициеви атоми?

Колкото по-добре разбираме мозъка, толкова по-излишен изглежда умът. Ако цялата система работи с електрически сигнали, които се движат от едно място до друго, защо, по дяволите, трябва да изпитваме страх? Ако веригата от електрохимични реакции води от нервните клетки чак до движенията на мускулите на краката, защо да добавяме и субективни преживявания към тази верига? Каква е тяхната функция? Безброй плочки от домино могат да падат една след друга, без за това да са необходими каквито и да са субективни преживявания. Защо са им необходими на невроните чувства, за да се стимулират взаимно или за да наредят на адреналиновите жлези да се задействат? Всъщност 99% от телесните дейности, включително мускулните движения и хормоналните секреции, се осъществяват, без да са необходими съзнателни чувства. Тогава защо невроните, мускулите и жлезите се нуждаят от такива чувства в останалия 1%?

Според съвременните биологични теории нашите спомени, фантазии и мисли не съществуват в някаква по-висша нематериална сфера. Те са по-скоро лавини от електрически сигнали, изпращани от милиарди неврони. Следователно, дори да включим спомените, фантазиите и мислите, пак имаме работа с поредица от електрохимични реакции, които минават през милиарди неврони, за да доведат до активирането на надбъбречните жлези и мускулите на краката.Има ли дори една-единствена стъпка по този дълъг и криволичещ път, когато – между действието на един неврон и реакцията на следващия – умът да се намесва и да решава дали следващият неврон трябва да се задейства, или не? Има ли някакво материално движение – дори на един-единствен електрон, – което да е причинено от субективното усещане за страх, а не от предшестващото движение на някаква друга частица? Ако няма такова движение – ако всеки електрон се движи, защото друг електрон се е задвижил преди това, – защо трябва да изпитваме страх? Нямаме ни най-малка представа.

Нашето Аз също е измислена история като нациите, боговете и парите. У всеки един от нас има сложна система, която изхвърля на боклука повечето от преживяванията ни, запазва само няколко образци, смесва ги с кадри от филми, които сме гледали, романи, които сме чели, речи, които сме слушали, и блянове, които сме бленували, и от цялата тази каша изважда една привидно логична история за това кой съм аз, откъде идвам и къде отивам. Тази история ми казва какво да обичам, кого да мразя и какво да правя със себе си. Тази история може дори да ме накара да пожертвам живота си, ако сюжетът го изисква. Всеки от нас си има своя жанр.Какъв, тогава, е смисълът на живота? Либерализмът твърди, че не бива да очакваме някаква външна сила да ни даде готов смисъл. Всеки индивидуален гласоподавател, потребител или наблюдател трябва да използва собственото си право на избор, за да даде смисъл не само на своя живот, но и на цялата Вселена.Биологическите науки обаче подкопават основите на либерализма, като заявяват, че свободният индивид е просто приказка, произведена от сбор от биохимични алгоритми. Във всеки един момент биохимичните механизми на мозъка създават мимолетно преживяване, което веднага изчезва. После други преживявания се появяват и изчезват, появяват се и изчезват едно след друго. Но тези мимолетни преживявания не се свързват в едно трайно цяло. Помнещото Аз се опитва да въведе ред в хаоса, като съчинява една безкрайна история, в която всяко преживяване има своето място и следователно свое трайно значение. Но колкото и убедителна и привлекателна да е тази история, тя е просто фикция. Средновековните рицари вярват, че Бог и раят дават смисъл на живота им; съвременните либерали вярват, че свободните решения на индивида дават смисъл на живота. И едните, и другите се заблуждават в еднаква степен.

Датаизмът има строго функционален подход към човечеството и преценява стойността на човешките преживявания според функцията им в механизмите за обработване на данни. Ако разработим алгоритъм, който изпълнява същата функция по-добре, човешките преживявания ще изгубят стойността си. Sapiens еволюира в африканската савана преди десетки хиляди години и неговите алгоритми просто не са пригодени да се справят с информационните потоци на XXI в. Можем да се опитаме да актуализираме човешката система за обработване на данни, но това може би няма да е достатъчно. Интернетът-на-всички-неща може би скоро ще създаде толкова мащабни и бързи потоци от данни, че дори усъвършенстваните човешки алгоритми няма да са в състояние да ги обработват. Когато автомобилите заместват файтоните, хората не усъвършенстват конете – те просто ги „пенсионират“. Може би е дошло време да направим същото с Homo sapiens.

Ако датаизмът успее да покори света, какво ще се случи с нас, хората? Първоначално датаизмът вероятно ще ускори хуманистичните стремежи да се осигурят на хората здраве, щастие и могъщество. Датаизмът се разпространява, тъй като обещава да осъществи тези хуманистични стремежи. За да постигнем безсмъртие, вечно блаженство и божествена съзидателна сила, ние трябва да обработваме огромни количества данни, които далеч надхвърлят капацитета на човешкия мозък. Затова алгоритмите ще го направят вместо нас. Когато обаче властта премине от хората към алгоритмите, хуманистичните проекти може да станат ирелевантни. Изоставим ли хомоцентричния в полза на датацентричния светоглед, човешкото здраве и щастието в голяма степен ще изгубят значение.Защо да се тревожим толкова за остарели машини за обработка на информация, когато вече има далеч по-съвършени модели? Ние се стремим да създадем интернет-на-всички-неща с надеждата, че ще ни направи здрави, щастливи и могъщи. Но когато интернетът- на-всички-неща бъде създаден и започне да функционира, хората може би ще се превърнат от инженери в чипове, после в данни и в крайна сметка може би ще се размият в пороя от данни като буца пръст в придошла река.

Когато обаче ние, хората, изгубим функционалната си значимост в мрежата, ще установим, че всъщност изобщо не сме венецът на сътворението. Критериите, които ние сами сме въвели, ще ни обрекат да изчезнем в забвение също като мамутите и китайските речни делфини. И тогава ще се окаже, че човешкият род е бил просто вълничка в космичния поток от данни.

Така, че в момента най-важните въпроси са :
1. Наистина ли организмите са просто алгоритми, а животът – просто обработка на данни?
2. Кое е по-ценно – интелектът или съзнанието?
3. Какво ще се случи с обществото, политиката и ежедневния живот, когато несъзнателни, но високоинтелигентни алгоритми ни познават по-добре, отколкото ние сами се познаваме?

Ювал Харари – Homo Deus – кратка история на бъдещето

Подобни публикации: