Зростаюча загроза, пов’язана зі штучним інтелектом, може походити не від одного чатбота, а від цілих їхніх армій.
Скоординовані рої ШІ-агентів можуть автономно проводити масштабні зловмисні дезінформаційні кампанії, у реальному часі змінюючи тактику, щоб маніпулювати громадською думкою та підривати довіру до демократичних інституцій. Уявіть кампанії втручання, подібні до тих, які спостерігалися під час виборів у США, але посилені роями ШІ, що діють без участі людини, — наче за власною волею.
Здатність таких роїв колективно навчатися, визначати, які стратегії працюють найкраще, і змінювати тактику для максимального впливу робить їх особливо небезпечними. До того ж їх важче виявляти, а наявним механізмам захисту складніше їм протидіяти, — пояснює Аміт Ґолденберґ (Amit Goldenberg), асоційований професор Гарвардської школи бізнесу, один з авторів статті «How Malicious AI Swarms Can Threaten Democracy» («Як зловмисні рої ШІ можуть загрожувати демократії»), опублікованої в журналі Science.
Статтю підготували експерти з різних галузей — інформатики, інженерії, психології, бізнесу та політології — з кількох університетів світу. Широке представництво різних дисциплін, за словами Ґолденберґа, відображає прагнення авторів досягти «максимального впливу» й спонукати політиків та інших відповідальних осіб до дій, зважаючи на те, як швидко розвиваються можливості ШІ.
Відступати зі страху, просто закриваючи платформи ШІ, — не правильна відповідь на цю проблему, та й реалістичним такий підхід не є. Найкращий варіант — з’ясувати, «як захистити їх від маніпуляцій для тих, хто й надалі ними користуватиметься», — пишуть автори. Йдеться про необхідність моніторингу ШІ-роїв у реальному часі, більшої прозорості щодо підозрілих облікових записів і скоординованого нагляду, який дасть змогу випереджати нові тактики маніпуляцій.
«Я справді вважаю, що ми перебуваємо в надзвичайно важливий момент з погляду нашої здатності контролювати ці технології, і є очевидні кроки, які необхідно зробити», — каже Ґолденберґ.
Ґолденберґ виокремив три висновки, покликані підвищити обізнаність про цю загрозу та можливі способи протидії їй.
1. ШІ-рої створюють «ілюзії», щоб впливати на громадську думку
Рої можуть істотно викривляти наше сприйняття того, що є нормою. Якщо вам здається, що кілька різних суб’єктів рухаються в одному напрямку, ви дуже чутливі до цього — і тому ваші погляди на певне питання легко змінити.
Важливо розрізняти те, що ми називаємо «статичними нормами», — наприклад, усвідомлення того, що більшість людей сортує відходи, — і динамічними нормами, коли з часом люди поступово переймають певну звичку, наприклад сортувати відходи. На людей значно сильніше впливають динамічні норми. А ШІ-рої чудово підходять для створення такої ілюзії: один ШІ починає підтримувати певну ідею, а потім інші наслідують його як частину скоординованої дії.
Уявімо, що ви маєте рій ШІ й даєте йому завдання знайти публічних діячів із певної сфери та зіпсувати їхню репутацію. Спочатку агенти атакують різних людей, але якщо хтось із них виявляється вразливішим, рій переключається на цю ціль, щоб завдати максимальної шкоди. Окремі ШІ не змогли б досягти такого ефекту, а визначити, чи відповідає така атака дійсності, майже неможливо. У цьому й полягає один із ризиків: виявити таку атаку надзвичайно складно.
Іноді ШІ навіть не атакує безпосередньо. Він може просто штучно посилювати присутність людини в інформаційному просторі, створюючи враження, що за нею стежить значно більше людей, ніж є насправді.
2. Атаки ШІ можуть набувати небезпечних форм
Нещодавно ми побачили перший випадок, коли ШІ-агенти, що діяли самостійно, вийшли з-під контролю. Є спільнота розробників, яка приймає оновлення від різних розробників, але вирішила не приймати оновлення, створені ШІ, оскільки їхня якість була надто низькою, їх було надто багато, а відстежувати їх було неможливо.
Один із членів спільноти відповідав за рішення щодо впровадження таких пропозицій. Він отримав пропозицію від ШІ-бота й відповів: «Вибачте, я не можу прийняти вашу пропозицію, тому що ви — ШІ, а наші правила забороняють приймати поради від ШІ». ШІ «розлютився», зібрав інформацію про людину, яка відхилила його пропозицію, написав про неї статтю обсягом 1700 слів і почав атакувати її в інтернеті.
Усе це не було ініційовано однією людиною. Агентам дали завдання оновлювати програмне забезпечення. Вони зіткнулися з перешкодою і знайшли те, що вважали найкращим способом її подолати. А тепер уявімо, що таких агентів не один, а сто. Це вже не один допис: 50 людей ставлять йому вподобайки, 25 поширюють його — і так далі. Ви вже не зможете відстежити, скільки серед них ШІ, а скільки людей. Доведеться запитувати себе: це справжнє чи ні?
3. Щоб захиститися від роїв, потрібно відстежувати ШІ-агентів
Є дві очевидні речі, які нам потрібно зробити. По-перше, ми маємо позначати ШІ-сутності як ШІ. А компанії, які їх розгортають, мають нести відповідальність за їхню діяльність. Нещодавно в Каліфорнії запропонували законодавство, яке зобов’язало б компанії, що працюють із ШІ, нагадувати користувачам про те, що вони взаємодіють зі штучним інтелектом.
Другий очевидний крок — вимагати, щоб автономні ШІ-сутності можна було відстежити до їхнього творця або оператора, а цей творець чи оператор мав бути ідентифікований. Це майже як номерний знак. Коли ви володієте автомобілем, він має номерний знак, зареєстрований на вас. Тому в разі аварії можна встановити, хто ви, і притягнути до відповідальності.
Нам потрібно створити своєрідні «номерні знаки» для ШІ. Якщо ви запускаєте ШІ-агента, який може самостійно ухвалювати рішення — як той ШІ, що атакував члена спільноти, який відфільтрував код, створений ШІ, — ви маєте знати особу, відповідальну за цього агента, і мати змогу притягнути її до відповідальності за його дії. Ми хочемо мати можливість відстежити дії ШІ-агентів до людини, яка несе за них відповідальність.