Настоящите AI модели са ограничени в способността си да създават истински новаторски идеи и открития. За да се преодолеят тези ограничения, е необходимо да се насърчава индивидуалното мислене и любопитство, както и да се разработят нови подходи за самоусъвършенстващи се системи, които могат да подражават на еволюционния процес.
- Колективен разум и индивидуалност:
- Хуманитарната интелигентност и напредъкът са колективни, но се постигат чрез индивидуални убеждения и усилия.
- Примерите с Тесла и Едисон показват как противоположни идеи могат да тласнат напредъка напред.
- AI моделите улавят статистическата средна стойност на човешките разсъждения, но им липсват ръбовете и екзогенните искри, които движат истинския прогрес.
- Смъртта на „ratio“:
- AI автоматизира систематичното разсъждение, но се проваля при радикални отклонения от основните принципи.
- Фокусът върху решаването на добре дефинирани проблеми ограничава способността за създаване на нови проблеми и отклонения от утъпкания път.
- Парадоксът на ученето:
- Хората се учат чрез правене и възстановяване на физическите стъпки, които водят до оригинални открития.
- AI прекъсва този процес, като автоматизира „съотношението“ и рискува да подкопае способността за радикално изследване.
- Капанът на идиокрацията:
- Истинската заплаха не е „суперинтелектът“, а ерозията на способността ни да мислим различно.
- Прехвърлянето на когнитивната тежка работа на AI може да доведе до идиокрация, където хората забравят как да пробиват нови позиции.
- Път напред: любопитство:
- AI може да действа като ускорител за любопитните по природа, като намалява латентността на цикъла на обучение.
- Истинското ограничение не е AI, а самото любопитство. Важно е да се подхранва любопитството, което движи хората.
- Алтернативен път напред: ASI:
- Ако създадем нещо, което се самоусъвършенства, подобно на еволюцията, можем да игнорираме проблемите, които възникват, когато AI замени съотношението.
- Проблемът е в показателите – как да се идентифицират изненадващи, екзогенни неща, които по дефиниция са изненадващи и екзогенни.
В допълнение, важно е да се признае, че AI може да бъде мощен инструмент за ускоряване на обучението и решаването на проблеми, но не трябва да се разчита изцяло на него за когнитивната тежка работа. Вместо това, AI трябва да се използва като спаринг партньор, който стимулира човешкото любопитство и креативност.
AI като колективен разум
Хуманитарната интелигентност и напредъкът са наистина колективни, всеки надгражда работата на другите. Вземете Тесла и Едисон, всеки от които яростно подкрепяше двете страни на една и съща монета, AC и DC. За разлика от пчелен кошер, където отделните пчели действат чисто по инстинкт в полза на колонията, хората парадоксално постигат колективен напредък чрез яростно индивидуално убеждение. Ние сме като кошер, който работи точно защото всяка „пчела“ вярва, че е автономна и ще защитава своите идеи до смърт. Това напрежение между нашата принципно сътрудничеща природа и нашето дълбоко вкоренено чувство за индивидуална активност създава продуктивни търкания
AI моделите са интерактивни моментни снимки на колективния интелект на човечеството, улавящи статистическа средна стойност на нашите разсъждения. Липсват им ръбовете, произволността и екзогенните искри (еволюционният и екологичният „шум“), които движат истинския прогрес. Хората се развиват към колективна интелигентност точно защото индивидите вярват, че имат свободна воля. Това вярване поражда продуктивно несъгласие, което води до истинска новост. AI премахва това прекъсване на връзката.
Човешкият интелект може да прилича на търсене на дърво в някои аспекти, но ние също процъфтяваме, като започнем от неочаквани клони. Мащабирането на текущия AI усъвършенства дълбочината на познатите клонове и задушава способността ни да се отклоняваме от утъпкания път. Хората се учат чрез правене: ръката учи преди ума. Възстановяваме физически стъпките, които някога са довели до оригинални открития. Така развиваме навика за творческо мислене на първите принципи. AI прекъсва този процес на късо.
Истинската заплаха не е „суперинтелектът“ да ни унищожи; това е бавната ерозия на способността ни да мислим различно. Предавайки когнитивната тежка работа на AI, рискуваме да създадем идиокрация, в която почиваме на лаврите на алгоритмите и забравяме как да пробиваме нови позиции.
Ако останем на този път, ще загубим практика в „съотношението“ и ще останем завинаги ограничени от настоящите си идеи. Когато системите мислят вместо нас, може никога повече да не съберем волята – или умението – да се отклоним и да намерим нещо наистина ново. Еволюцията тласка прогреса чрез съответствие и отклонение. Днешният AI се накланя, който балансира силно към съответствието, игнорирайки двигателя, който създава трансформативни скокове.
Един важен момент е пропуснат: AI действа като ускорител за любопитните по природа. Помислете как децата и начинаещите взаимодействат с ИИ – те го засипват с безкрайни въпроси, използвайки го като неуморен учител, който обяснява сложни теми на тяхното ниво. Това отразява историческия модел на начина, по който „децата на сценариите“ са учили програмиране – като събират код от различни източници, провалят се и се учат чрез този процес.
AI просто намалява латентността на този цикъл на обучение. Вместо да чакат отговори на Stack Overflow или IRC помощ, обучаемите получават незабавна обратна връзка. Те се справят по-бързо с по-трудни проблеми и се учат по-бързо от провалите си. Истинското ограничение не е AI – това е самото любопитство. Онези, които наистина се интересуват от разбиране, неизбежно ще считат ИИ за страхотен спаринг партньор в разработването на собствените си идеи и ще осигурят „разединението“, което захранва колективния разум, който предложих.
https://rohan.ga/blog/critique/