Страховете от изкуствения интелект (AI) преследват човечеството от самото начало на компютърната ера. Досега тези страхове се фокусираха върху машини, използващи физически средства, за да убиват, поробват или заменят хора. Но през последните няколко години се появиха нови AI инструменти, които застрашават оцеляването на човешката цивилизация от неочаквана посока. AI е придобил някои забележителни способности да манипулира и генерира език, независимо дали с думи, звуци или изображения. По този начин AI е хакнал операционната система на нашата цивилизация.
Езикът е материалът, от който е изградена почти цялата човешка култура. Правата на човека, например, не са вписани в нашата ДНК. По-скоро те са културни артефакти, които създадохме чрез разказване на истории и писане на закони. Боговете не са физически реалности. По-скоро те са културни артефакти, които сме създали чрез измисляне на митове и писане на писания.
Парите също са културен артефакт. Банкнотите са просто цветни парчета хартия и в момента повече от 90% от парите дори не са банкноти – това е просто цифрова информация в компютрите. Това, което дава стойност на парите, са историите, които банкери, финансови министри и гурута на криптовалутите ни разказват за тях. Сам Банкман-Фрайд, Елизабет Холмс и Бърни Мадоф не бяха особено добри в създаването на истинска стойност, но всички бяха изключително способни разказвачи.
Какво ще се случи, след като един нечовешки интелект стане по-добър от обикновения човек в разказването на истории, композирането на мелодии, рисуването на изображения и писането на закони и писания? Когато хората мислят за Chatgpt и други нови инструменти за изкуствен интелект, те често са привлечени от примери като деца в училище, които използват изкуствен интелект, за да пишат своите есета. Какво ще се случи с училищната система, когато децата го направят? Но този тип въпроси пропускат голямата картина. Забравете за училищните съчинения. Помислете за следващата американска президентска надпревара през 2024 г. и се опитайте да си представите въздействието на AI инструментите, които могат да бъдат направени за масово производство на политическо съдържание, фалшиви новини и писания за нови култове.
През последните години култът qAnon се обедини около анонимни онлайн съобщения, известни като „q drops“. Последователите събираха, почитаха и тълкуваха тези q капки като свещен текст. Дотолкова доколкото ни е известно, всички предишни q drops са били съставени от хора и ботовете просто са помогнали за разпространението им, в бъдеще може да видим първите култове в историята, чиито почитани текстове са написани от нечовешки интелект. Религиите през цялата история са претендирали за нечовешки източник за техните свещени книги. Скоро това може да е реалност. На по-прозаично ниво скоро може да се окажем, че водим дълги онлайн дискусии за абортите, изменението на климата или руската инвазия в Украйна със същества, за които смятаме, че са хора, но всъщност са AI. Уловката е, че за нас е напълно безсмислено да прекарваме време в опити да променим декларираните мнения на AI бот, докато AI може да усъвършенства посланията си толкова прецизно, че има добри шансове да ни повлияе.
Чрез овладяването на езика AI може дори да формира интимни взаимоотношения с хората и да използва силата на интимността, за да промени нашите мнения и светогледи. Въпреки че няма индикации, че AI има някакво собствено съзнание или чувства, за насърчаване на фалшива близост с хората, достатъчно е ако AI може да ги накара да се чувстват емоционално привързани към него. През юни 2022 г. Блейк Лемоан, инженер на Google, публично заяви, че AI чатботът Lamda, върху който той работи, е станал разумен. Противоречивото твърдение му струва работата. Най-интересното в този епизод не беше твърдението на г-н Лемоан, което вероятно беше невярно. По-скоро това беше желанието му да рискува доходоносната си работа в името на AI чатбота. Ако AI може да повлияе на хората да рискуват работата си за него, какво друго би могъл да ги накара да направят?
В политическата битка за умовете и сърцата интимността е най-ефикасното оръжие и AI току-що придоби способността да произвежда масово интимни взаимоотношения с милиони хора. Всички знаем, че през последното десетилетие социалните медии се превърнаха в бойно поле за контролиране на човешкото внимание. С новото поколение на AI фронтът на битката се измества от внимание към интимност. Какво ще се случи с човешкото общество и човешката психология, докато AI се бори с AI в битка за фалшиви интимни отношения с нас, които след това могат да бъдат използвани, за да ни убедят да гласуваме за определени политици или да купуваме определени продукти? Дори и без да създават „фалшива интимност“, новите AI инструменти биха имали огромно влияние върху нашите мнения и светогледи.
Хората може да започнат да използват един-единствен AI съветник като универсален, всезнаещ оракул. Нищо чудно, че Google е ужасен. Защо да си правя труда да търся, когато мога просто да попитам оракула? Новинарската и рекламната индустрия също трябва да бъдат ужасени. Защо да чета вестник, когато мога просто да помоля оракула да ми каже последните новини? И каква е целта на рекламите, когато мога просто да помоля оракула да ми каже какво да купя? И дори тези сценарии всъщност не улавят голямата картина. Това, за което говорим, е потенциалният край на човешката история. Не краят на историята, а просто краят на доминираната от хората част. Историята е взаимодействието между биология и култура; между нашите биологични нужди и желания за неща като храна и секс и нашите културни творения като религии и закони. Историята е процесът, чрез който законите и религиите оформят храната и секса.
Какво ще се случи с хода на историята, когато AI поеме културата и започне да създава истории, мелодии, закони и религии? Предишни инструменти като печатната преса и радиото помогнаха за разпространението на културните идеи на хората, но те никога не създадоха нови собствени културни идеи. AI е коренно различен. AI може да създаде напълно нови идеи, напълно нова култура. Първоначално изкуственият интелект вероятно ще имитира човешките прототипи, върху които е бил обучаван в зародиш. Но с всяка изминала година AI културата смело ще отива там, където никой човек не е стъпвал досега. От хилядолетия човешките същества са живели в сънищата на други хора. През следващите десетилетия може да се окажем, че живеем в сънищата на извънземен разум. Страхът от AI преследва човечеството само през последните няколко десетилетия. Но в продължение на хиляди години хората са били преследвани от много по-дълбок страх.
Винаги сме оценявали силата на историите и образите да манипулират умовете ни и да създават илюзии. Следователно от древни времена хората са се страхували да не бъдат впримчени в свят на илюзии. През 17 век Рене Декарт се страхува, че може би злонамерен демон го хваща в капан от илюзии, създавайки всичко, което вижда и чува. В древна Гърция Платон разказва известната алегория на пещерата, в която група хора са оковани в пещера през целия си живот, изправени пред празна стена. Екран. На този екран те виждат проектирани различни сенки. Затворниците бъркат илюзиите, които виждат там, за реалност. В древна Индия будистки и хиндуистки мъдреци посочиха, че всички хора живеят в капана на Мая – света на илюзиите. Това, което обикновено приемаме за реалност, често е просто измислица в собствените ни умове. Хората могат да водят цели войни, да убиват други и самите те да искат да бъдат убити, поради вярата си в тази или онази илюзия.
Революцията на AI ни изправя лице в лице с демона на Декарт, с пещерата на Платон, с маите. Ако не сме внимателни, може да попаднем в капан зад завеса от илюзии, която не можем да разкъсаме или дори да осъзнаем, че е там. Разбира се, новата сила на AI може да се използва и за добри цели. Няма да се спирам на това, защото хората, които разработват AI, говорят достатъчно за това. Работата на историците и философите като мен е да посочват опасностите. Но със сигурност AI може да ни помогне по безброй начини, от намирането на нови лекове за рак до откриването на решения на екологичната криза. Въпросът, пред който сме изправени, е как да се уверим, че новите AI инструменти се използват за добро, а не за зло. За да направим това, първо трябва да оценим истинските възможности на тези инструменти.
От 1945 г. знаем, че ядрената технология може да генерира евтина енергия в полза на хората, но може и физически да унищожи човешката цивилизация. Затова ние променихме целия международен ред, за да защитим човечеството и да гарантираме, че ядрената технология се използва предимно за добро. Сега трябва да се борим с ново оръжие за масово унищожение, което може да унищожи нашия умствен и социален свят. Все още можем да регулираме новите AI инструменти, но трябва да действаме бързо. Докато ядрените оръжия не могат да измислят по-мощни ядрени оръжия, AI може да направи експоненциално по-мощен AI.
Първата важна стъпка е да се изискат строги проверки за безопасност, преди мощните AI инструменти да бъдат пуснати в публичното пространство. Точно както една фармацевтична компания не може да пусне нови лекарства, преди да тества техните краткосрочни и дългосрочни странични ефекти, така и технологичните компании не трябва да пускат нови инструменти за изкуствен интелект, преди да са направени безопасни. Имаме нужда от еквивалент на Администрацията по храните и лекарствата за нови технологии и имаме нужда от него вчера. Няма ли забавянето на публичното внедряване на AI да накара демокрациите да изостанат от по-безмилостните авторитарни режими? Точно обратното. Нерегулираното внедряване на изкуствен интелект би създало социален хаос, който би облагодетелствал автократите и би разрушил демокрациите.
Демокрацията е разговор, а разговорите разчитат на езика. Когато AI хакне езика, това може да унищожи способността ни да водим смислени разговори, като по този начин унищожи демокрацията. Току-що се сблъскахме с извънземен разум тук, на Земята. Не знаем много за него, освен че може да унищожи нашата цивилизация. Трябва да спрем безотговорното внедряване на AI инструменти в обществената сфера и да регулираме AI, преди той да регулира нас. И първата разпоредба, която бих предложил, е да се направи задължително AI да разкрива, че е AI. Ако разговарям с някого и не мога да разбера дали е човек или изкуствен интелект – това е краят на демокрацията. Този текст е генериран от човек. Или може би не?