Вузькі місця інновацій, які штучний інтелект не здатен подолати

Штучний інтелект здатен зняти інформаційні та процедурні обмеження, але може посилити когнітивні упередження, спотворити розуміння споживачів і закріпити організаційні помилки. Тому питання не в тому, яка модель найкраща, а в тому, яке вузьке місце ми намагаємося усунути.

Саме це намагаються з’ясувати автори нового дослідження, підготовленого на замовлення International Journal of Research in Marketing. Дослідники з Гарварду, Вортону, Північно-Західного та Колумбійського університетів зіставили останні емпіричні роботи про генеративний ШІ (GenAI) та інновації з десятиліттями досліджень креативності, ухвалення рішень в умовах невизначеності та поведінки споживачів.

Вони розглянули чотири етапи інноваційного процесу — генерування ідей, їхній добір, розуміння споживачів і навчання після запуску — і поставили для кожного те саме запитання:

Відповідь неоднозначна. Деякі обмеження ШІ справді послаблює. Інші — посилює. А кілька принципово не здатен подолати.

Чотири етапи, чотири різні ефекти

Ідеація: фіксація на типовому

Коли людина працює з мовною моделлю над брейнштормом без чіткої структури, виникає подвійне звуження. Модель тяжіє до статистично типових відповідей, а людина, побачивши їх, фіксується на запропонованому напрямі й рідше генерує нестандартні ідеї самостійно.

На системному рівні наслідки ще серйозніші: незалежні команди різних компаній, використовуючи ті самі моделі, можуть сходитися на однакових дизайнерських рішеннях. Індивідуальна продуктивність зростає, але різноманітність ідей на ринку зменшується.

Тут проблема насамперед у способі роботи моделі. Один із можливих підходів — змусити її спочатку створювати чернетку, а потім окремо шукати сміливіші й менш типові рішення. Порада людині «мислити ширше» після того, як вона вже зафіксувалася на ідеї ШІ, значно менш ефективна.

Добір ідей: перевага «відполірованих» текстів ШІ

Експертні панелі традиційно схильні недооцінювати новизну: оригінальні ідеї здаються ризикованішими, тому безпечніші й знайоміші пропозиції часто отримують вищі оцінки. GenAI додає нове упередження: його тексти плавні, структуровані й переконливі, а якість викладу легко сплутати з якістю самої ідеї.

Рішення тут організаційне, а не технологічне: подавати всі заявки в єдиному форматі й приховувати, чи належить ідея людині, чи моделі.

Є й небезпечніша пастка. Якщо навчати систему добору на історичних рішеннях експертної панелі, її упередження не зникають, а закріплюються під виглядом об’єктивності. В одному польовому дослідженні експерти, отримуючи рекомендацію ШІ з поясненням, частіше механічно погоджувалися з відмовою. Водночас рекомендація без пояснення — «чорна скринька» — покращувала якість рішень.

Розуміння споживача: швидше дослідження, менш достовірні відповіді

Мовна модель може симулювати тисячі споживчих сегментів, але це не робить її вибіркою реальних людей. Наприклад, підвищення ціни модель може інтерпретувати як ознаку преміальності товару, а не як експеримент зі зміною ціни. Тому замість очікуваної спадної кривої попиту можна отримати пласку або навіть висхідну.

«Цифрові двійники» — ШІ-персоналії, побудовані на реальних поведінкових профілях, — точніші, але й вони не відтворюють важливих аспектів людської поведінки. Реальні споживачі можуть переоцінювати витрати на перемикання, триматися за вже вкладені ресурси й поводитися нераціонально саме там, де це визначає успіх нового продукту. Симульовані споживачі частіше обирають раціональний варіант, а тому можуть недооцінювати тертя, які вбивають запуск.

Чіткого технологічного рішення тут поки немає. Для рішень, залежних від уже вкладених витрат, витрат на перемикання чи ефекту фреймінгу, безпечніше доповнювати ШІ класичними дослідженнями людей — панелями лідерів думок і користувачів та етнографічними спостереженнями.

Навчання після запуску: те саме упередження підтвердження, тільки переконливіше

Після запуску компанія отримує потік відгуків, коментарів у соцмережах і звернень до служби підтримки. Тут ШІ справді має перевагу: він здатен опрацювати масив даних у масштабі, недосяжному для аналітиків, і структурувати потреби клієнтів.

Але це створює нове питання: які сигнали заслуговують на дію, а які лише є найгучнішими? Важливі для інновацій сигнали — новий сценарій використання чи тихий відтік певного сегмента — можуть загубитися в частотному підсумку.

Ще складніша проблема виникає на етапі інтерпретації. Компанії завжди схильні тлумачити ринковий фідбек на користь уже ухвалених рішень. ШІ не має особистих ставок у минулорічному продуктовому рішенні, але його впевнені й добре сформульовані підсумки легко вибірково цитувати на підтримку того, у що команда вже вірить. Особливо якщо запит сформульовано так, що модель розуміє очікувану відповідь.

Головний висновок

ШІ допомагає чи шкодить — визначає не складність моделі, а механізм вузького місця.

Проблеми масштабу, інформації та процедур — забагато заявок, надто великий масив відгуків, жорсткий формат оцінювання — GenAI здатен істотно послабити.

Інша річ — вузькі місця, пов’язані з живим досвідом, ірраціональною поведінкою та організаційними інтересами. Масштабування моделі не змінить того, що споживач не може сформулювати потребу в категорії товару, якої ще не бачив. Так само менеджер, який вклав політичний капітал у невдалий проєкт, може інтерпретувати дані на його користь незалежно від якості цих даних.

Тому перед упровадженням нового ШІ-інструменту керівникам варто ставити просте діагностичне запитання:

Найтривожніший аргумент дослідників стосується, однак, не окремого вузького місця, а довгострокового ефекту автоматизації.

Якщо ШІ бере на себе генерування ідей, їхній добір і симуляцію споживачів, молодші співробітники втрачають можливість набувати досвіду через безпосередню участь у цій роботі. В організації з’являються досвідчені користувачі результатів ШІ, які водночас не розвинули інтуїцію, необхідну для розпізнавання помилок цих результатів.

Так виникає «пастка автоматизації»: кожен окремий інструмент може успішно проходити перевірку, але весь інноваційний цикл поступово відривається від реальності. Ідеація, добір, тестування та інтерв’ювання дедалі більше опосередковуються моделями, навченими на результатах одна одної, а не на безпосередньому досвіді ринку.

Відповідь дослідників — не сповільнювати впровадження ШІ, а свідомо визначати, які частини процесу потребують безпосереднього контакту з реальністю: занурення в досвід провідних користувачів, етнографічні дослідження, а також людини, яка приймає остаточне рішення й відповідає за нього.

За матеріалами HBR