Ювал Ноа Харари
Ювал Ноа Харари

Google, новата власт и краят на свободната воля

by author page

0 comments Categories

Ювал Ноа Харари

Хиляди години хората са вярвали, че властта идва от боговете. По време на модерната епоха властта преминава към хората. И както откриват хуманистите като Жан-Жак Русо нашите собствени чувства и желания са крайният източник на смисъл и нашата свободна воля е, най-висшата сила.
Сега е в ход нова промяна. Точно както божествената власт се легитимира чрез религиозни митологии, човешката се легитимира с хуманистични идеологии.

Така високотехнологичните гурута и пророците от Силиконовата долина създават нови универсални истории, които легитимират властта на алгоритмите и Big Data. Тази нова вяра може да бъде наречена Дейтаизъм. В нейната екстремна форма, пропонентите на дейтаисткия мироглед възприемат цялата вселена като поток от данни, виждат организмите почти като биохимични алгоритми и вярват, че призванието на човечеството е да създаде всеобхватна система за обработка на данни и след това да се слее с нея.

Ние вече се превръщаме в малки чипове в една гигантска система, която никой не разбира истински. Всеки ден поемам безкрайно много данни чрез имейли, телефони обаждания и статии; обработвам данни; предавам обратно нова информация чрез имейли, телефонни обаждания и статии. Не знам всъщност къде попадам в голямата схема и как моите битове данни се свързват с тези, произведени от милиарди други хора и компютри. Безмилостният поток от данни поражда нови изобретения и смущения, които никой не планира, контролира или схваща.

Както капиталистите от епохата на свободния пазар вярват в невидимата ръка на пазара, така и дейтаистите вярват в невидимата ръка на потока данни. С превръщнето на глобалната система за обработка на данни във всезнаеща и всеможеща, свързването с тази система става източник на целия смисъл. Новото мото е: Ако усещате нещо – запишете го. Ако запишете нещо – качете го. Ако качвате нещо – споделете го.

Дейтаистите вярват, че при достатъчно биометрични данни и изчислителна мощ, тази система ще разбира хората по-добре отколкото ние сами се разбираме. Когато това се случи, хората ще загубят властта си и практики като демократични избори ще станат в историята както ритуалите за дъжд и кремъчните ножове.
От ранно детство ние сме бомбардирани с порой от хуманистични лозунги, които ни съветват: Слушайте себе си, бъдете верни на себе си, доверете се на себе си, следвайте сърцето си.

В политиката вярваме, че властта зависи от свободния избор на обикновените хора. В пазарната икономика поддържаме, че клиентът винаги е прав. Хората на изкуството смятат, че красотата е в очите на наблюдателя; образованието ни учи да мислим за себе си; и хуманистичната етика ни съветва, че ако нещо ни кара да се чувстваме добре, трябва да продължим напред и да го направим.
Но етиката се натъква често на затруднения, когато нещата, които ни карат да се чувстваме добре, са лоши за другите. Важно е да се разбере, че в хуманисткото общество, етическите и политическите дебати се водят в името на противопоставящи се човешки чувства, а не в името на божествените заповеди.

И все пак хуманизмът сега е изправен пред екзистенциално предизвикателство и идеята за „свободна воля“ е под заплаха. Научните прозрения за начина, по който нашите мозъци и тела работят, предполагат, че нашите чувства не са уникално човешко духовно качество. По-скоро те са биохимични механизми, които всички бозайници и птици използват, за да вземат решения и за по-бързо изчисляване на вероятността за оцеляване и размножаване.

Противно на общоприетото мнение, чувствата не са точно обратното на рационалността; те въплъщават еволюционната рационалност. Когато един павиан, жираф или човек вижда лъв, възниква страх, тъй като биохимичен алгоритъм изчислява съответните данни и стига до заключението, че вероятността от смърт е висока. По същия начин чувството на сексуално привличане възниква, когато други биохимични алгоритми изчисляват, че наблизо има индивид, който предлага висока степен на вероятност за успешното чифтосване. Тези биохимични алгоритми са се развили и подобрени чрез милиони години еволюция. Ако чувствата на някой древен прародител са били грешни, гените, формиращи тези чувства, не преминават към следващото поколение.

Въпреки че хуманистите са грешали да смятат, че нашите чувства отразяват някаква мистериозна „свободна воля“, досега хуманизмът имаше добър практически смисъл. Макар да няма нищо магическо в чувствата ни, те са въпреки това най-добрият метод за вземане на решения. Дори ако католическата църква или КГБ ме шпионират всяка минута, те не притежават биологическото знание и изчислителна сила, нужни, за да се изчислят биохимичните процеси, които определят нашите желания и избори. Ако трябва да избирате между това да се вслушате в чувствата си или в Библията, е по-добре да се вслушате в сърцето си. Библията представлява вярванията на няколко свещеника в древен Йерусалим. Вашите чувства представляват натрупаната мъдрост на милиони години еволюция, която е преминала най-строг контрол чрез естествения подбор.

Но след като църквата и КГБ отстъпиха ролята си на Google и Facebook, хуманизмът загуби практическите си предимства. Сливат се две научни приливни вълни. От една страна, биолози разгадават тайните на човешкото тяло и, по-специално, на мозъка и на човешките чувства. В същото време, компютърни учени ни дават безпрецедентна мощ за обработка на данни. Двете заедно създават външни системи, които да следят и разбират чувствата много по-добре от самия човек. Когато Big Data опознае хората по-добре от самите тях, властта ще се измести от хората към алгоритмите. Big Data ще овласти Big Brother.

Това вече се случва в областта на медицината. Най-важните медицински решения във вашия живот все повече се основават не на вашето чувство за болка или здраве, нито на информираните предвиждания на вашия доктор – а на изчисленията на компютри, които ви познават по-добре от вас самите. През 2013 г. Анжелина Джоли направи генетично изследване, което доказа, че носи опасна мутация на гена BRCA1. Според статистически бази данни, жените с такава мутация, имат 87% шанс да развият рак на гърдата. Въпреки че Джоли нямаше рак, тя реши да изпревари заболяването и се подложи на двойна мастектомия. „Вие може да не усещате, че нещо не е наред“, казват алгоритмите, „но има бомба с часовников механизъм, която тиктака във вашето ДНК. Направете нещо за него – сега „!

Това вече се случва и в други области и започва с прости неща, като коя книга да купим и четем. Как хуманистите избират една книга? Отиват в книжарница, скитат между пътеките, прелистват една книга и прочитат първите няколко изречения на друга, докато вътрешното чувство ги свързва с конкретен том. Дейтаистите използват Amazon. Щом влезете в Amazon, се появява съобщние: „Аз знам кои книги сте харесали в миналото. Хората с подобни вкусове също са склонни да хазари тази или онази нова книга.“

Това е само началото. Устройства като Kindle на Amazon са в състояние непрекъснато да събират данни за своите потребители, докато те четат . Вашият Kindle може да следи кои части от книгата четете бързо, и кои – бавно; на коя страница сте си взели почивка, и на кое изречение сте изоставили книгата завинаги. Ако Kindle бъдат модернизирани със софтуер за разпознаване на лица и биометрични сензори, той ще знае как всяко изречение влияе на сърдечната честота и кръвното налягане. Какво ви кара да се смеете, да сте тъжни или ядосани. Скоро книгите ще ви четат, докато ги четете. И докато забравяте прочетеното, компютърните програми помнят. Тези данни ще позволяват на Amazon да избира книги за вас с необичайната точност. Те също така ще позволят на Amazon да познава точно кой е потребителят и да натиска неговите емоционални бутони.

В крайна сметка хората могат да дадат на алгоритми правото да вземат най-важните решения в живота им, като например за кого да се оженят. В средновековна Европа свещениците и родителите имаха властта да изберат вашата половинка. В хуманистичните общества ние предоставяме тази власт на нашите чувства. В дейтаисткото общество Google ще избира. „Слушай, Google,“ бих казал, „и Джон, и Пол ме ухажват. Харесват ми и двамата, но по различен начин и е толкова трудно да взема решение. Като се има предвид всичко, което знаеш, какво ще ме посъветваш да направя? “
И Google ще отговори: “Добре, аз те познавам от деня, в който си се родила. Чел съм всичките ти имейли, записах всичките ти телефонни разговори, зная любимите ти филми, твоята ДНК и цялата биометрична история на твоето сърце. Имам точни данни за всички срещи, на които си ходила и мога да покажа секунда по секунда графика на твоя сърдечен ритъм, кръвно налягане и захар, когато беше на среща с Джон или Пол. И, съвсем естествено, аз ги познавам, както познавам и теб. Въз основа на тази информация, на моите превъзходни алгоритми и на десетилетна статистика за милиони връзки – съветвам те да избереш Джон, с 87 на сто вероятност да бъдеш по-доволна от него в дългосрочен план.
Всъщност, аз те познавам толкова добре, че дори знам, че не ти харесва този отговор. Пол е много по-хубав, отколкото Джон и защото придаваш на външния вид твърде голяма тежест, тайно искаш да кажа „Пол“. Външият вид има значение, разбира се, но не толкова много колкото си мислиш. Твоите биохимични алгоритми – които са еволюирали преди десетки хиляди години в африканската савана – дават на външната красота тегло от 35 на сто в общия рейтинг на потенциални партньори. Моите алгоритми – които са базирани на най-съвременните проучвания и статистики – казват, че изглежда те имат само 14 на сто влияние върху дългосрочния успех на романтичните отношения. Така че, макар да взех красотата на Пол предвид, все пак ще ти кажа, че ще бъдеш по-добре с Джон.”

Google не трябва да е перфектен през цялото време. Нужно е само осреднената прогноза да е по-добра от тази на човека.
И това не е трудно, тъй като повечето хора не познават себе си много добре и често правят ужасни грешки в най-важните решения от живота си.

Дейтаисткият възглед е много привлекателен за политици, бизнесмени и обикновени потребители, тъй като той предлага новаторски технологии и огромни нови правомощия. При всички опасения за личния живот и нашия свободен избор, когато потребителите трябва да избират между запазване на неприкосновеността на личния живот и достъпа до много по-добро здравеопазване – повечето ще изберат здраве.

За учените и интелектуалците дейтаизмът обещава да осигури научния Свети Граал, който ни се изплъзва от векове: единна всеобхватна теория, която обединява всички научни дисциплини – от музикология през икономика до биология. Според дейтаизма Петата симфония на Бетовен, борсовият балон и грипният вирус са само три модела на потоците от данни, които могат да бъдат анализирани с помощта на същите основни концепции и инструменти. Тази идея е изключително атрактивна. Тя дава на учените общ език, изгражда мостове над академичните раздори и лесно пренася идеите през дисциплинарните граници.

Разбира се, както и предишните всеобхватни догми, дейтаизмът също може да се основава на неразбиране на живота. В частност той няма отговор на прословутия „Труден проблем на съзнанието“. Сега ние сме много далеч от обяснението на съзнанието чрез категориите на обработката на данни. Защо, когато милиарди неврони изпращат сигнали един на друг, се появява субективното чувство на любов или гняв. Нямаме идея.

Но дори ако дейтаизмът греши за живота, той все пак може да завладее света. Много предишни вярвания са получавали огромна популярност и власт, въпреки техните фактически грешки. Ако християнството и комунизмът могат да го направят, защо не и дейтаизмът? Той специално има добри перспективи, тъй като се разпространява във всички науки. Една обща научна парадигма може лесно да се превърне в непристъпна догма.

Ако не ви харесва това и искате да остане извън обсега на алгоритмите, има само един съвет: Опознай себе си. В края на краищата, това е просто емпиричен въпрос. Стига да имате по-добра представа и самопознание от алгоритмите, вашият избор ще остане добър и ще се запази поне някаква власт в ръцете ви. Ако алгоритмите въпреки това изглеждат готови да я вземат, това е най-вече защото повечето хора едва ли се познават изобщо.

“Файненшъл таймс“, със съкращения

Ювал Ноа Харари е историк от Израел. Той е автор на бестселъра Sapiens: A Brief History of Humankind  и излизащата от печат през септември ‘Homo Deus: A Brief History of Tomorrow’. Статията във FT бе придружена от публикации в много други медии и поредица публични лекции предимно във Великобритания.

Вашият коментар

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *