Новатор ли е изкуственият интелект

Настоящите AI модели са ограничени в способността си да създават истински новаторски идеи и открития. За да се преодолеят тези ограничения, е необходимо да се насърчава индивидуалното мислене и любопитство, както и да се разработят нови подходи за самоусъвършенстващи се системи, които могат да подражават на еволюционния процес.

1. Колективен разум и индивидуалност:
   • Хуманитарната интелигентност и напредъкът са колективни, но се постигат чрез индивидуални убеждения и усилия.
   • Примерите с Тесла и Едисон показват как противоположни идеи могат да тласнат напредъка напред.
   • AI моделите улавят статистическата средна стойност на човешките разсъждения, но им липсват ръбовете и екзогенните искри, които движат истинския прогрес.
2. Смъртта на „ratio“:
   • AI автоматизира систематичното разсъждение, но се проваля при радикални отклонения от основните принципи.
   • Фокусът върху решаването на добре дефинирани проблеми ограничава способността за създаване на нови проблеми и отклонения от утъпкания път.
3. Парадоксът на ученето:
   • Хората се учат чрез правене и възстановяване на физическите стъпки, които водят до оригинални открития.
   • AI прекъсва този процес, като автоматизира „съотношението“ и рискува да подкопае способността за радикално изследване.
4. Капанът на идиокрацията:
   • Истинската заплаха не е „суперинтелектът“, а ерозията на способността ни да мислим различно.
   • Прехвърлянето на когнитивната тежка работа на AI може да доведе до идиокрация, където хората забравят как да пробиват нови позиции.
5. Път напред: любопитство:
   • AI може да действа като ускорител за любопитните по природа, като намалява латентността на цикъла на обучение.
   • Истинското ограничение не е AI, а самото любопитство. Важно е да се подхранва любопитството, което движи хората.
6. Алтернативен път напред: ASI:
   • Ако създадем нещо, което се самоусъвършенства, подобно на еволюцията, можем да игнорираме проблемите, които възникват, когато AI замени съотношението.
   • Проблемът е в показателите – как да се идентифицират изненадващи, екзогенни неща, които по дефиниция са изненадващи и екзогенни.

В допълнение, важно е да се признае, че AI може да бъде мощен инструмент за ускоряване на обучението и решаването на проблеми, но не трябва да се разчита изцяло на него за когнитивната тежка работа. Вместо това, AI трябва да се използва като спаринг партньор, който стимулира човешкото любопитство и креативност.

https://rohan.ga/blog/critique/

Подобни публикации: