Някак ще трябва да се изправим срещу трудните дилеми. Редно ли е да настояваме за одобряване единствено на алгоритми, които сме в състояние да прозрем, и в чиято същина можем да надникнем, знаейки, че когато ги отнемем от ръцете на собствениците им, е възможно да ги направим по-неефективни. Отхвърляме ли всяка една математическа система, която съдържа в себе си предразсъдък или доказан потенциал за грешка, с ясното съзнание, че по този начин подлагаме алгоритмите ни на по-строги стандарти, отколкото важат за единствената оставаща алтернатива – човешките системи. И колко предубеден е прекалено предубеден?
Как се спирате на компромисен вариант между защита на личното пространство и безопасност, справедливост и сигурност? В който и аспект от живота да бъде въведен алгоритъм, винаги ще се налага някаква форма на баланс. Между лично пространство и общо благо. Между индивида и цялото. Между различни предизвикателства и приоритети. Не е лесно да се намери път сред плетеницата от различни типове мотивация, дори когато има недвусмислената награда в края на пътя .Още по-трудно е, когато конкуриращите се подбуди не са видими. Когато ползите от даден алгоритъм са преувеличени, а рисковете – туширани. Когато се налага да се запитате в какво ви карат да вярвате и кой би могъл да спечели от вярата ви в него.
Но отношението ни към компютрите е парадоксално. Имаме склонността да се предоверяваме на всичко, което не проумяваме, обаче разберем ли веднъж, че един алгоритъм е способен на грешка, имаме и дразнещата привичка да реагираме преувеличено и да го отписваме напълно, прибягвайки отново към собствената си несъвършена преценка. Сред изследователите този феномен е известен като антипатия към алгоритмите. Хората проявяват по-малко толерантност към грешките на алгоритмите, отколкото към своите собствени, пък били те и по- сериозни.
Склонността ни да виждаме нещата в черно-бели краски – да гледаме на алгоритмите или като на всемогъщ господар, или като на безполезен боклук – е сериозен проблем в нашата високотехнологична епоха. Ако имаме за цел да извлечем максимума от технологиите, ще ни се наложи да намерим по-обективен подход.
Трябва да се поучим от грешката на Каспаров и да признаем собствените си слабости, да подложим на съмнение инстинктивните си реакции и да бъдем по-съзнателни за емоциите, които изпитваме към алгоритмите около нас. От друга страна, трябва да свалим алгоритмите от пиедестала им, да ги проучваме по-внимателно и да се питаме могат ли в действителност онова, което обещават. Това е единственият начин да решим дали заслужават властта, която им е поверена.
Представете си тогава за момент какво би станало, ако допуснем, че съвършенството не съществува. Алгоритмите ще допускат грешки. Алгоритмите ще бъдат несправедливи. Това не би трябвало по никакъв начин да ни отдалечава от стремежа да ги направим, където е възможно, още по-прецизни и по-малко пристрастни. Но може би признаването, че алгоритмите не са перфектни, не и в по-голяма степен от хората, би могло донякъде да уталожи презумпциите за тяхната последноинстанционна експертност.
Представете си, че вместо да насочваме вниманието си изключително и само върху проектирането на алгоритми, които изначално са замислени да съблюдават недостижими стандарти за съвършена справедливост, ги създадем така, че по-лесно да поправят вредите от грешките, които неминуемо ще допускат. И още, че влагаме същите количества време и усилия да гарантираме, че притивопоставянето на решения, идващи от автоматизираните системи, е толкова лесно, колкото и имплементирането им.
Може би отговорът е изначално да ги конструираме така, че да подлежат на оспорване. Представете си, че ги проектираме да подпомагат хората в решенията им, вместо да им спускат инструкции за действие. Да бъдат прозрачни за начина, по който са достигнали до определено решение, вместо просто да ни уведомяват за резултата.
Според мен най-добри са онези алгоритми, които вземат предвид човешкия фактор на всеки един етап. Онези, които отчитат навика ни да се предоверяваме на изводите на машината и същевременно признават собствените си слабости, като вадят неопределеността си на най-видно място.
Това бе една от най-добрите характеристики на Уотсън . Макар регламентът на формата да изисква придържането към един- единствен отговор, алгоритъмът представяше и поредица от алтернативни отговори, които е обмислял в хода на играта, както и точковия резултат, показващ доколко уверен във верността на всеки един от тях е бил той. Може би, ако индексите за опасност от рецидивизъм съдържаха някаква подобна функция, за съдиите щеше да е по-лесно да подлагат на съмнение информацията, която алгоритъмът им предлага. И може би още, ако алгоритмите за лицево разпознаване предоставяха няколко потенциални съответствия, вместо да се прицелват в едно лице, погрешната идентификация щеше да е далеч по-незначителен проблем.
Същата функционалност е причина за високата ефективност на невронните мрежи, които правят скрининг на проби за рак на гърдата. Алгоритъмът не диктува имена на пациенти с тумори. Той стеснява необятното множество от клетки до шепа подозрителни области, които патолозите на свой ред да проверят. Алгоритъмът никога не бива спохождан от умора, а патологът рядко греши в диагностичния процес. Алгоритъм и човек работят заедно в партньорски тандем, като взаимно се възползват от силните си страни и проявяват разбиране към недостатъците на другия.Алгоритъмът оценява възможните последствия от всеки ход, ограничавайки опасността от сериозен фал, докато човекът през цялото време запазва водещата си роля в играта.
Такова е бъдещето, за което храня надежди. Бъдеще, в което арогантните алгоритми с диктаторски уклон, които изпълват много от тези страници, ще принадлежат на миналото. В което сме спрели да възприемаме машините като безпристрастни повелители и сме се научили да се отнасяме към тях така, както бихме подходили към всеки друг източник на власт. Като подлагаме решенията им на съмнение, гледаме мотивите им под лупа, приемаме емоциите си, изискваме да знаем в чия полза работят, държим ги отговорни за грешките им и отказваме да стоим безучастно. Мисля, че това е ключът към бъдеще, където крайният нетен ефект от алгоритмите би бил положителен двигател за обществото.
Хана Фрай -Здравей, свят. Как да бъдеш човек в епохата на компютрите.