«Nexus»: чому Харарі вважає штучний інтелект загрозою для цивілізації
Що спадає вам на думку, коли ви чуєте про майбутній апокаліпсис штучного інтелекту? Якщо вам близькі кліше наукової фантастики, ви, можливо, уявляєте роботів-убивць (з густим австрійським акцентом або без нього), які повстають проти своїх самовпевнених творців. Або ж, у стилі The Matrix, — моторошні машини, що висмоктують енергію з людських тіл, паралельно занурюючи нас у симульовану реальність.
Для Ювала Ноя Харарі (Yuval Noah Harari), який останнє десятиліття багато розмірковує про ШІ, загроза виглядає менш фантастичною і значно підступнішою.
Мова — і людська здатність перетворювати її на велетенські історії, що охоплюють цілі континенти, — є фундаментом того, як ізраїльський історик, нині автор уже четвертої науково-популярної книги, розуміє наш вид і його вразливості. У своєму мегабестселері «Sapiens» 2014 року (вперше опублікованому івритом у 2011-му) він стверджував, що люди стали домінантним видом, бо навчилися масштабно співпрацювати завдяки новій здатності створювати історії. Саме ця здатність — віра в цілковито вигадані речі — лежить в основі релігій, економік і держав. Без неї всі ці конструкції розсипалися б, якби людська машина наративів раптом вимкнулася.
На сьогодні «Sapiens» продано накладом більше 25 мільйонів примірників — показник не лише інтересу до теми, а й сили самого Харарі як оповідача. Водночас книга отримала чимало критики. Академіки ставили під сумнів її точність і саму ідею втиснути 70 тисяч років людської історії у 450 сторінок. Ситкоми висміювали фанатів Харарі, які носять книгу як сучасну біблію. Сила «Sapiens» — у її запаморочливому масштабі, але, як зазначав профіль у The New Yorker у 2020 році, такий «погляд із космосу» інколи применшує значення поточних подій.
Nexus можна сприймати як відповідь на цю критику. Попри власний шалений марш крізь тисячоліття — зі стрибками між епохами й континентами — книга дуже зосереджена на тому, що відбувається саме зараз.
Якщо в «Sapiens» ключову роль відігравали історії, то в «Nexus» центральне місце займають інформаційні мережі, які Харарі вважає базовими структурами, що підтримують суспільства.
Однак інформація не гарантує правди про світ. Значно частіше, наголошує Харарі, вона породжує вигадки, фантазії та масові марення, які можуть призводити до катастрофічних явищ на кшталт нацизму чи сталінізму. Чому Homo sapiens, попри всі еволюційні успіхи, настільки послідовно руйнує сам себе? «Проблема, — за словами Харарі, — не в людській природі, а в наших інформаційних мережах».
Озираючись на те, як інформація заводила людство в глухий кут у минулому, Харарі наводить чимало прикладів. Один із наймоторошніших — «Malleus Maleficarum», написаний домініканським монахом Heinrich Kramer в Австрії 1480-х років. Це був посібник із викриття та жорстокого вбивства «відьом». Книга навряд чи поширилася б далеко, якби кількома десятиліттями раніше не з’явився друкарський верстат. Саме він дозволив маячним ідеям Крамера розлетітися Європою та розпалити масову істерію полювання на відьом.
Базова теза Харарі полягає в тому, що інформаційні революції здатні породжувати періоди людського розквіту, але завжди мають свою ціну. Щоразу, коли людство створює нові технології, здатні поширювати слова та ідеї швидше й далі, ніж будь-коли раніше, величезна частина інформаційного потоку виявляється або сміттям, або відверто небезпечною. Ситуацію ускладнює те, що для підтримання соціального порядку вигадки часто працюють як надійніший цемент, ніж правда.
Страх перед революцією ШІ пов’язаний не лише з ризиком потонути в дезінформації від чатботів чи з тим, що влада використовуватиме технології для аналізу нашого приватного життя. На відміну від попередніх технологій — книжок чи радіо, — пише Харарі, «ШІ є першим інструментом, здатним самостійно ухвалювати рішення та генерувати ідеї». Раннє попередження цього сценарію світ побачив у М’янмі у 2016–2017 роках, коли алгоритми Facebook, налаштовані на максимізацію залучення користувачів, почали активно просувати ненависницьку антирохінджійську пропаганду, що сприяла масовим убивствам і етнічним чисткам.
Харарі переконливо пояснює, чому такі алгоритми варто розглядати як автономних агентів і як, за відсутності контролю, люди можуть перетворитися на інструменти, якими ШІ маніпулюватиме дедалі жорсткіше. Якщо не діяти негайно, цей зародковий «чужий інтелект», як він воліє його називати, здатен спричинити катастрофи, які ми навіть не можемо уявити, аж до руйнування людської цивілізації.
Такий песимістичний погляд на ШІ не є новим: «думери» на кшталт Еліезера Юдковського (Eliezer Yudkowsky) роками попереджають про апокаліптичний потенціал технології, а сама індустрія ШІ вже почала публічно висловлювати занепокоєння. Внесок Харарі у цю дискусію — історична перспектива. Аналізуючи попередні інформаційні революції та реакцію різних політичних систем на них, він вважає, що людство може краще підготуватися до майбутніх землетрусів.
У «Nexus» є й дивні сліпі зони. Дещо парадоксально, що в критиці технології, розвитком якої значною мірою керують корпорації, орієнтовані на прибуток, капіталізм майже не згадується. Але незалежно від того, погоджуєтеся ви з історичним фреймворком Харарі чи ні, важко не оцінити ретельність, з якою він вибудовує аргументацію. Потенційно сухий аналіз він насичує яскравими прикладами — наприклад, історією Cher Ami, голуба-посланця Першої світової війни, через якого автор демонструє фундаментальну слизькість самої природи інформації. Як і в попередніх книгах, Харарі активно використовує списки («дві головні проблеми», «п’ять базових принципів») та бінарні опозиції (правда проти порядку, демократія проти диктатури), але тут це радше структурує мислення, ніж робить текст механічним.
Рішення, які він пропонує для обмеження влади ШІ, варіюються від цілком раціональних (заборонити ботам видавати себе за людей) до відверто сумнівних (закликати митців і бюрократів «співпрацювати», щоб допомогти суспільству краще зрозуміти комп’ютерні мережі). Але «Nexus» працює насамперед як діагноз і заклик до дії — і в цьому сенсі книга загалом досягає своєї мети. Якщо вона продаватиметься бодай наближено до рівня «Sapiens», людство матиме трохи більше шансів підготуватися до епохи машин.
За матеріалами The Guardian