Про страх перед появою ШІ
Страх перед появою в машин свідомості — ще один відволікальний маневр. Справжня причина для занепокоєння — не лихі наміри, а компетентність. Надрозумний ШІ за визначенням дуже добре вміє досягати своїх цілей, хоч би якими вони були, тож нам слід узгодити його цілі з нашими. Мабуть, ви не належите до ненависників мурашок і не топчете комах просто так, але якщо вам доручать побудувати гідроелектростанцію і в районі, відведеному під затоплення, виявиться мурашник, то мурахам доведеться попрощатися із життям. Рух за сприятливий ШІ хоче не допустити ситуації, коли людство опиниться на місці цих мурах.
Про складність задач для комп’ютера
Для нас природно ранжувати складність завдань, відштовхуючись від того, як важко виконувати їх нам, людям. Але це може створити хибне уявлення про те, наскільки складні вони для комп’ютерів. Нам здається, що набагато важче помножити 314 159 на 271 828, ніж упізнати друга на фотографії, але комп’ютери обскакали нас в арифметиці ще задовго до мого народження, а от розпізнавання зображень на людському рівні стало можливим лише недавно. Той факт, що низькорівневі сенсомоторні завдання здаються легкими, хоча вимагають величезних обчислювальних ресурсів, відомий як парадокс Моравека. Він пояснюється тим, що наш мозок створює ілюзію легкості таких завдань, бо відводить на них величезну кількість спеціалізованої «апаратури» — фактично понад чверть наших розумових потужностей.
