На нещодавньому семінарі для керівників одна з учасниць висловила провокаційну думку: вона використовує ІІ-чат-ботів як «ворожки». Вона заявила, що, подібно до ворожіння на кавовій гущі, ІІ може давати напрочуд точні проблиски майбутнього, навівши в приклад недавній випадок, коли нейромережа вірно передбачила зростання фондового ринку на 2%.
Хоча це може здатися невинною забавою, це твердження торкається глибокого і небезпечного зрушення у функціонуванні суспільства. Ми відходимо від традиційних методів прогнозування — астрономії, соціології чи економіки — і передаємо ключі від майбутнього новому класу провісників: спеціалістам з комп’ютерних наук, аналітикам даних та інженерам.
Зміст
Змішання прогнозу та факту
В основі нашої сучасної одержимості прогностичними технологіями лежить фундаментальна логічна помилка: прогнози не є фактами.
Факти відносяться виключно до сьогодення та минулого. За визначенням майбутнього ще не сталося, а значить, фактів про нього не існує. Твердження про те, що може статися, може бути оцінкою, попередженням або бажанням, але воно ніколи не може бути фактичною істиною.
Коли ми сприймаємо результати роботи ІІ як «істину», ми потрапляємо у небезпечну пастку. Ми починаємо приймати статистичні ймовірності за неминучу реальність, забуваючи, що ці моделі лише обчислюють найімовірніший наступний крок, ґрунтуючись на історичних закономірностях.
Фантазія про «Демона Лапласа»
Рушійною силою сучасного ІІ є наукова фантазія, відома як “Демон Лапласа”. Концепція, запропонована П’єр-Симоном Лапласом, передбачає, що якби якийсь розум володів повним знанням про становище та імпульс кожної частки у Всесвіті, то майбутнє було б так само очевидним, як і минуле. З цієї точки зору невизначеність — це лише брак даних.
Прихильники сучасного ІІ прагнуть цієї мрії методом «грубою сили». Логіка слідує невблаганному циклу:
1. Зібрати все: відстежувати кожен рух, купівлю, соціальну взаємодію та біологічний показник.
2. Обробити все: використовувати колосальні обчислювальні потужності для аналізу цих точок даних.
3. Предсказать все: використовувати отримані закономірності, щоб усунути невизначеність.
Це перетворило людське існування на товар, який потрібно «вичавлювати» задля отримання даних. Нас квантифікують (оцифровують) у всіх аспектах життя — від режиму сну до політичних поглядів — і все це заради того, щоб угамувати спрагу прогностичної точності машини.
Машинне навчання: тріумф масштабу, а не науки
Мабуть, сама протверезна реальність революції ІІ полягає в тому, що вона була викликана не раптовим спалахом людського генія або фундаментальним проривом у розумінні роботи розуму. Навпаки, як зазначає професор Оксфорда Майкл Вулдрідж, це була перемога масштабу над наукою.
Десятиліттями нейронні мережі важко видавали значні результати. «Прорив», який змінив все, був не новим способом мислення, а скоріше появою:
– Масивних наборів даних: колосального обсягу доступної цифрової інформації.
– Зростання обчислювальних потужностей: апаратної бази (GPU), здатної обробляти цю інформацію.
Машинне навчання – це, по суті, “прогнозування на стероїдах”. Коли мовна модель пише пропозицію, вона «думає»; вона передбачає найбільш статистично ймовірне наступне слово на основі мільярдів попередніх прикладів. Коли алгоритм розпізнає обличчя, він просто обчислює ймовірність того, що певні пікселі відповідають дослідженому шаблону.
Прихована ціна «Оракула»
Оскільки ці прогностичні моделі вимагають величезних ресурсів, їх розробка нерозривно пов’язана з владою та експлуатацією. Метод «грубої сили», що використовується для створення цих систем, спирається на:
– Масове стеження за населенням планети.
– Експлуатацію вразливих верств населення для розмітки даних.
– Велике споживання природних ресурсів.
– несанкціоноване використання інтелектуальної власності.
Більш того, розквіт ринків передбачень (таких як Polymarket) перетворив людські страждання та політичну нестабільність у форму гейміфікованої спекуляції. Коли ми робимо ставки на кінець воєн або стихійних лих, ми дегуманізуємо жертв і ставимося до реальних світових криз як до простих точок даних заради прибутку.
Висновок
Небезпека прогнозів ІІ полягає у його здатності маскуватися під об’єктивну істину, діючи у своїй як інструмент контролю. Прогнози непросто описують майбутнє; вони формують його, підштовхуючи соціальну поведінку до передбачуваного результату.
Зрештою ми маємо визнати, що алгоритми — це не оракули істини, а інструменти влади, і ті, хто контролює дані, контролюють напрямок розвитку світу.
