Google, новата власт и краят на свободната воля

Ювал Ноа Харари

Ювал Ноа Харари

Хиляди години хората са вярвали, че властта идва от боговете. По време на модерната епоха властта преминава към хората. И както откриват хуманистите като Жан-Жак Русо нашите собствени чувства и желания са крайният източник на смисъл и нашата свободна воля е, най-висшата сила.
Сега е в ход нова промяна. Точно както божествената власт се легитимира чрез религиозни митологии, човешката се легитимира с хуманистични идеологии.

Така високотехнологичните гурута и пророците от Силиконовата долина създават нови универсални истории, които легитимират властта на алгоритмите и Big Data. Тази нова вяра може да бъде наречена Дейтаизъм. В нейната екстремна форма, пропонентите на дейтаисткия мироглед възприемат цялата вселена като поток от данни, виждат организмите почти като биохимични алгоритми и вярват, че призванието на човечеството е да създаде всеобхватна система за обработка на данни и след това да се слее с нея.

Ние вече се превръщаме в малки чипове в една гигантска система, която никой не разбира истински. Всеки ден поемам безкрайно много данни чрез имейли, телефони обаждания и статии; обработвам данни; предавам обратно нова информация чрез имейли, телефонни обаждания и статии. Не знам всъщност къде попадам в голямата схема и как моите битове данни се свързват с тези, произведени от милиарди други хора и компютри. Безмилостният поток от данни поражда нови изобретения и смущения, които никой не планира, контролира или схваща.

Както капиталистите от епохата на свободния пазар вярват в невидимата ръка на пазара, така и дейтаистите вярват в невидимата ръка на потока данни. С превръщнето на глобалната система за обработка на данни във всезнаеща и всеможеща, свързването с тази система става източник на целия смисъл. Новото мото е: Ако усещате нещо – запишете го. Ако запишете нещо – качете го. Ако качвате нещо – споделете го.

Дейтаистите вярват, че при достатъчно биометрични данни и изчислителна мощ, тази система ще разбира хората по-добре отколкото ние сами се разбираме. Когато това се случи, хората ще загубят властта си и практики като демократични избори ще станат в историята както ритуалите за дъжд и кремъчните ножове.
От ранно детство ние сме бомбардирани с порой от хуманистични лозунги, които ни съветват: Слушайте себе си, бъдете верни на себе си, доверете се на себе си, следвайте сърцето си.

В политиката вярваме, че властта зависи от свободния избор на обикновените хора. В пазарната икономика поддържаме, че клиентът винаги е прав. Хората на изкуството смятат, че красотата е в очите на наблюдателя; образованието ни учи да мислим за себе си; и хуманистичната етика ни съветва, че ако нещо ни кара да се чувстваме добре, трябва да продължим напред и да го направим.
Но етиката се натъква често на затруднения, когато нещата, които ни карат да се чувстваме добре, са лоши за другите. Важно е да се разбере, че в хуманисткото общество, етическите и политическите дебати се водят в името на противопоставящи се човешки чувства, а не в името на божествените заповеди.

И все пак хуманизмът сега е изправен пред екзистенциално предизвикателство и идеята за „свободна воля“ е под заплаха. Научните прозрения за начина, по който нашите мозъци и тела работят, предполагат, че нашите чувства не са уникално човешко духовно качество. По-скоро те са биохимични механизми, които всички бозайници и птици използват, за да вземат решения и за по-бързо изчисляване на вероятността за оцеляване и размножаване.

Противно на общоприетото мнение, чувствата не са точно обратното на рационалността; те въплъщават еволюционната рационалност. Когато един павиан, жираф или човек вижда лъв, възниква страх, тъй като биохимичен алгоритъм изчислява съответните данни и стига до заключението, че вероятността от смърт е висока. По същия начин чувството на сексуално привличане възниква, когато други биохимични алгоритми изчисляват, че наблизо има индивид, който предлага висока степен на вероятност за успешното чифтосване. Тези биохимични алгоритми са се развили и подобрени чрез милиони години еволюция. Ако чувствата на някой древен прародител са били грешни, гените, формиращи тези чувства, не преминават към следващото поколение.

Въпреки че хуманистите са грешали да смятат, че нашите чувства отразяват някаква мистериозна „свободна воля“, досега хуманизмът имаше добър практически смисъл. Макар да няма нищо магическо в чувствата ни, те са въпреки това най-добрият метод за вземане на решения. Дори ако католическата църква или КГБ ме шпионират всяка минута, те не притежават биологическото знание и изчислителна сила, нужни, за да се изчислят биохимичните процеси, които определят нашите желания и избори. Ако трябва да избирате между това да се вслушате в чувствата си или в Библията, е по-добре да се вслушате в сърцето си. Библията представлява вярванията на няколко свещеника в древен Йерусалим. Вашите чувства представляват натрупаната мъдрост на милиони години еволюция, която е преминала най-строг контрол чрез естествения подбор.

Но след като църквата и КГБ отстъпиха ролята си на Google и Facebook, хуманизмът загуби практическите си предимства. Сливат се две научни приливни вълни. От една страна, биолози разгадават тайните на човешкото тяло и, по-специално, на мозъка и на човешките чувства. В същото време, компютърни учени ни дават безпрецедентна мощ за обработка на данни. Двете заедно създават външни системи, които да следят и разбират чувствата много по-добре от самия човек. Когато Big Data опознае хората по-добре от самите тях, властта ще се измести от хората към алгоритмите. Big Data ще овласти Big Brother.

Това вече се случва в областта на медицината. Най-важните медицински решения във вашия живот все повече се основават не на вашето чувство за болка или здраве, нито на информираните предвиждания на вашия доктор – а на изчисленията на компютри, които ви познават по-добре от вас самите. През 2013 г. Анжелина Джоли направи генетично изследване, което доказа, че носи опасна мутация на гена BRCA1. Според статистически бази данни, жените с такава мутация, имат 87% шанс да развият рак на гърдата. Въпреки че Джоли нямаше рак, тя реши да изпревари заболяването и се подложи на двойна мастектомия. „Вие може да не усещате, че нещо не е наред“, казват алгоритмите, „но има бомба с часовников механизъм, която тиктака във вашето ДНК. Направете нещо за него – сега „!

Това вече се случва и в други области и започва с прости неща, като коя книга да купим и четем. Как хуманистите избират една книга? Отиват в книжарница, скитат между пътеките, прелистват една книга и прочитат първите няколко изречения на друга, докато вътрешното чувство ги свързва с конкретен том. Дейтаистите използват Amazon. Щом влезете в Amazon, се появява съобщние: „Аз знам кои книги сте харесали в миналото. Хората с подобни вкусове също са склонни да хазари тази или онази нова книга.“

Това е само началото. Устройства като Kindle на Amazon са в състояние непрекъснато да събират данни за своите потребители, докато те четат . Вашият Kindle може да следи кои части от книгата четете бързо, и кои – бавно; на коя страница сте си взели почивка, и на кое изречение сте изоставили книгата завинаги. Ако Kindle бъдат модернизирани със софтуер за разпознаване на лица и биометрични сензори, той ще знае как всяко изречение влияе на сърдечната честота и кръвното налягане. Какво ви кара да се смеете, да сте тъжни или ядосани. Скоро книгите ще ви четат, докато ги четете. И докато забравяте прочетеното, компютърните програми помнят. Тези данни ще позволяват на Amazon да избира книги за вас с необичайната точност. Те също така ще позволят на Amazon да познава точно кой е потребителят и да натиска неговите емоционални бутони.

В крайна сметка хората могат да дадат на алгоритми правото да вземат най-важните решения в живота им, като например за кого да се оженят. В средновековна Европа свещениците и родителите имаха властта да изберат вашата половинка. В хуманистичните общества ние предоставяме тази власт на нашите чувства. В дейтаисткото общество Google ще избира. „Слушай, Google,“ бих казал, „и Джон, и Пол ме ухажват. Харесват ми и двамата, но по различен начин и е толкова трудно да взема решение. Като се има предвид всичко, което знаеш, какво ще ме посъветваш да направя? “
И Google ще отговори: “Добре, аз те познавам от деня, в който си се родила. Чел съм всичките ти имейли, записах всичките ти телефонни разговори, зная любимите ти филми, твоята ДНК и цялата биометрична история на твоето сърце. Имам точни данни за всички срещи, на които си ходила и мога да покажа секунда по секунда графика на твоя сърдечен ритъм, кръвно налягане и захар, когато беше на среща с Джон или Пол. И, съвсем естествено, аз ги познавам, както познавам и теб. Въз основа на тази информация, на моите превъзходни алгоритми и на десетилетна статистика за милиони връзки – съветвам те да избереш Джон, с 87 на сто вероятност да бъдеш по-доволна от него в дългосрочен план.
Всъщност, аз те познавам толкова добре, че дори знам, че не ти харесва този отговор. Пол е много по-хубав, отколкото Джон и защото придаваш на външния вид твърде голяма тежест, тайно искаш да кажа „Пол“. Външият вид има значение, разбира се, но не толкова много колкото си мислиш. Твоите биохимични алгоритми – които са еволюирали преди десетки хиляди години в африканската савана – дават на външната красота тегло от 35 на сто в общия рейтинг на потенциални партньори. Моите алгоритми – които са базирани на най-съвременните проучвания и статистики – казват, че изглежда те имат само 14 на сто влияние върху дългосрочния успех на романтичните отношения. Така че, макар да взех красотата на Пол предвид, все пак ще ти кажа, че ще бъдеш по-добре с Джон.”

Google не трябва да е перфектен през цялото време. Нужно е само осреднената прогноза да е по-добра от тази на човека.
И това не е трудно, тъй като повечето хора не познават себе си много добре и често правят ужасни грешки в най-важните решения от живота си.

Дейтаисткият възглед е много привлекателен за политици, бизнесмени и обикновени потребители, тъй като той предлага новаторски технологии и огромни нови правомощия. При всички опасения за личния живот и нашия свободен избор, когато потребителите трябва да избират между запазване на неприкосновеността на личния живот и достъпа до много по-добро здравеопазване – повечето ще изберат здраве.

За учените и интелектуалците дейтаизмът обещава да осигури научния Свети Граал, който ни се изплъзва от векове: единна всеобхватна теория, която обединява всички научни дисциплини – от музикология през икономика до биология. Според дейтаизма Петата симфония на Бетовен, борсовият балон и грипният вирус са само три модела на потоците от данни, които могат да бъдат анализирани с помощта на същите основни концепции и инструменти. Тази идея е изключително атрактивна. Тя дава на учените общ език, изгражда мостове над академичните раздори и лесно пренася идеите през дисциплинарните граници.

Разбира се, както и предишните всеобхватни догми, дейтаизмът също може да се основава на неразбиране на живота. В частност той няма отговор на прословутия „Труден проблем на съзнанието“. Сега ние сме много далеч от обяснението на съзнанието чрез категориите на обработката на данни. Защо, когато милиарди неврони изпращат сигнали един на друг, се появява субективното чувство на любов или гняв. Нямаме идея.

Но дори ако дейтаизмът греши за живота, той все пак може да завладее света. Много предишни вярвания са получавали огромна популярност и власт, въпреки техните фактически грешки. Ако християнството и комунизмът могат да го направят, защо не и дейтаизмът? Той специално има добри перспективи, тъй като се разпространява във всички науки. Една обща научна парадигма може лесно да се превърне в непристъпна догма.

Ако не ви харесва това и искате да остане извън обсега на алгоритмите, има само един съвет: Опознай себе си. В края на краищата, това е просто емпиричен въпрос. Стига да имате по-добра представа и самопознание от алгоритмите, вашият избор ще остане добър и ще се запази поне някаква власт в ръцете ви. Ако алгоритмите въпреки това изглеждат готови да я вземат, това е най-вече защото повечето хора едва ли се познават изобщо.

“Файненшъл таймс“, със съкращения

Ювал Ноа Харари е историк от Израел. Той е автор на бестселъра Sapiens: A Brief History of Humankind  и излизащата от печат през септември ‘Homo Deus: A Brief History of Tomorrow’. Статията във FT бе придружена от публикации в много други медии и поредица публични лекции предимно във Великобритания.

Подсъзнанието не може всичко

когнитивен

Ако трябва да вземете сложно решение, кое е по-добре – да премисляте възможностите отново или отново или да оставите ума си да почине, докато се разсейвате, например, с кръстословица? Представата, че несъзнателно достигаме до по-добри решения, отколкото при внимателно обмисляне, е привлекателна и повтаря идеите, популяризирани от книги като „Проблясък” на Малкълм Гладуел.

Но в научната общност идеята за предимството на подсъзнанието се приема противоречиво. Холандски психолози проведоха най-щателното проучване на тази хипотеза и не откриха никакви доказателства, отбелязва сп. „Нейчър”.

Тяхното заключение, публикувано в Judgement and Decision Making се основава на широк експеримент, предназначен да осигури най-добра възможност за проследяване на този ефект, ако съществува, както и статистически анализ на публикувани по-рано данни.

Този доклад допълва загрижеността за качеството на психологическите изследвания и продължаващия спор за степента, в която подсъзнанието може да повлияе на поведението.

„По-големият дебат е за това колко умно е подсъзнанието ни”, коментира когнитивният психолог Дейвид Шанкс от University College London. Това внимателно конструирано проучване има голям принос, според него. Шанкс публикува миналата година преглед, който оспорва твърдения за различни подсъзнателни влияния върху процеса на вземане на решения.

Типично изследване, проучващо тази хипотеза, приканва участващите да вземат комплексно решение, като избор на кола или компютър, след като се обмисля задълбочено списъка с характеристиките на обекта или след бърз преглед на характеристиките, след което човек се заема с разсейваща дейност, като решаване на кръстословица или пъзел. Подобни изследвания достигат до различни изводи – почти половината установяват предимство на подсъзнателното мислене, другите – не намират доказателства.

Привържениците на теорията твърдят, че ефектът е много чувствителен към вариации в изследванията и често обясняват липсата на потвърждение с факта, че повечето изследователи променят елементи, като избора на кръстословица, използвана за разсейване. Критиците казват, че положителните резултати се дължат на твърде малкото участници в експериментите.

Психолозите Марк Нойвенщейн и Хедерик ван Рейн от Университета в Грьонинген в Холандия се заемат да установят кое твърдение е вярно.

Те молят 399 участника – около 10 пъти повече от типичната извадка в останалите изследвания, да изберат между четири коли или четири апартамента на базата на 12 желани или нежелани характеристики. Те включват пълния списък условия, които привържениците за хипотезата за предимство на подсъзнателното мислене са докладвали като водещи до най-силен ефект – например, точния вид кръстословица, използвана за разсейване. Психолозите установяват, че не е по-вероятно тези, които са се разсейвали с кръстоволица да изберат апартамент или кола, които отговарят в по-голяма степен на предпочитанията им, отколкото това правят активно обмислящите избора си.

Учените след това анализират повторно 60 от 81 експеримента, описани в 32 проучвания по въпроса, публикувани преди април 2014 г. За целите на този мета анализ те изключват експерименти, които не съдържат достатъчно данни или се отклоняват от докладвани условия (само един от изключените експерименти твърди, че доказва хипотезата). Те също така включват резултатите от тяхното собствено проучване. В резултат на този щателен статистически анализ, те не откриват съществено продимство на подсъзнателното мислене.

„Ако предимството на подсъзнателното мислене съществува, то не може да бъде уловена в експерименти в лабораторни условия”, заключава Джонатан Барън от Университета на Пенсилвания във Филаделфия, редактор на Judgement and Decision Making.

Психологът Ап Дикстерхуис от Radboud Universityв Неймеген, който първи описва теорията за подсъзнателното мислене през 2004 г., казва: „Може да е вярно, че психологията се подобри доста през последните години, що се отнася до анализа на данни. И да, в миналото, бяха прилагани неоптимални анализи.” Но той не приема констатациите на мета-анализа. Той казва, че щеше да има различни заключения, ако учените бяха включили всички предишни експерименти, а не да се изключват някои и да се разчита на една подгрупа. Той добавя, че „доказателствата за предимството на подсъзнанието се разрастват бързо“ и хипотезата е широко приета.

Това не е единствената хипотеза, свързана с подсъзнанието, която е подложена на внимателен преглед. Например, експеримента на проекта “Many Labs”, който координира лаборатории в международен мащаб да повтарят психологически изследвания, за да валидират техните твърдения, както и няколко отделни проучвания предизвикват друга ключова концепзия в психологията – социалния прайминг. Според нея някои поведения са променени несъзнателно от предшестващо излагане на стимули, като например американското знаме, или от мисълта за пари.

Има съмнения и по отношение на ролята на подсъзнателното при вземането на решения в условията на несигурност. Въпреки последните научни открития, Браян Носек, психолог в Университета на Вирджиния в Шарлотсвил, който е съосновател на Many Labs, казва, че остава оптимист за хипотезата. „Бих се изненадал, ако в теорията на несъзнателното обмисляне не издържи, защото тя се вписва в съвременните теории“, казва той.
Шанкс е съгласен, че дебатът не е приключил. „Въпросът как вземаме решения и как можем да ги направим по-добри има практическо и интелектуално значение“, казва той. „Ако има данни, че отвличането на вниманието или подсъзнателни преживявания помагат, бихме искали да знаем това. Но изводите са много преждевременни.“