Na nedávném manažerském semináři jedna účastnice vyslovila provokativní myšlenku: používala AI chatboty jako „věštce“. Řekla, že stejně jako čajové lístky může umělá inteligence poskytnout překvapivě přesné pohledy do budoucnosti, přičemž uvedla nedávný případ, kdy neuronová síť správně předpověděla 2% nárůst akciového trhu.
I když se to může zdát jako neškodná legrace, toto prohlášení se dotýká hlubokého a nebezpečného posunu ve fungování společnosti. Odkláníme se od tradičních prognostických metod – astronomie, sociologie nebo ekonomie – a předáváme klíče k budoucnosti nové třídě prognostiků: počítačovým vědcům, datovým analytikům a inženýrům.
Зміст
Kombinace předpovědí a faktů
Jádrem naší moderní posedlosti prediktivní technologií je základní logická chyba: předpovědi nejsou fakta.
Fakta se týkají výhradně současnosti a minulosti. Podle definice se budoucnost ještě nestala, což znamená, že o ní neexistují žádná fakta. Prohlášení o tom, co se může stát, může být odhadem, varováním nebo přáním, ale nikdy nemůže být skutečnou pravdou.
Když přijmeme výsledky AI jako „pravdu“, padneme do nebezpečné pasti. Začínáme přijímat statistické pravděpodobnosti jako nevyhnutelnou realitu a zapomínáme, že tyto modely pouze počítají nejpravděpodobnější další krok na základě historických vzorů.
Fantazie o “Laplaceově démonovi”
Hnací silou moderní umělé inteligence je vědecká fantasy známá jako Laplace’s Demon. Koncept navržený Pierrem-Simonem Laplaceem naznačuje, že pokud by nějaká inteligence měla úplné znalosti o poloze a hybnosti každé částice ve vesmíru, budoucnost by byla stejně zřejmá jako minulost. Z tohoto pohledu je nejistota prostě nedostatek dat.
Zastánci moderní AI jdou za tímto snem pomocí hrubé síly. Logika následuje neúprosný cyklus:
1. Posbírejte vše: Sledujte každý pohyb, nákup, sociální interakci a biologický indikátor.
2. Vše zpracujte: Použijte obrovský výpočetní výkon k analýze těchto datových bodů.
3. Předvídejte vše: použijte naučené vzorce k odstranění nejistoty.
To změnilo lidskou existenci na komoditu, kterou je třeba ždímat pro data. Jsme kvantifikováni v každém aspektu našich životů, od našich spánkových vzorců po naše politické názory, to vše ve snaze uhasit naši žízeň po strojové prediktivní přesnosti.
Strojové učení: triumf z rozsahu, ne věda
Snad nejstřízlivější realitou revoluce umělé inteligence je to, že nebyla způsobena náhlým zábleskem lidské geniality nebo zásadním průlomem v pochopení fungování mysli. Naopak, jak zdůrazňuje oxfordský profesor Michael Wooldridge, šlo o vítězství rozsahu nad vědou.
Po desetiletí se neuronové sítě snažily produkovat smysluplné výsledky. „Průlom“, který vše změnil, nebyl nový způsob myšlení, ale spíše vznik:
– Masivní datové sady: obrovské množství dostupných digitálních informací.
– Růst výpočetního výkonu: hardwarová základna (GPU) schopná zpracovat tyto informace.
Strojové učení je v podstatě „předpověď na steroidech“. Když jazykový model píše větu, „nemyslí“; předpovídá statisticky nejpravděpodobnější další slovo na základě miliard předchozích příkladů. Když algoritmus rozpozná obličej, jednoduše vypočítá pravděpodobnost, že určité pixely odpovídají naučenému vzoru.
Skrytá cena “Oraclu”
Protože tyto prediktivní modely vyžadují obrovské zdroje, jejich vývoj je neoddělitelně spojen s mocí a vykořisťováním. Metoda hrubé síly použitá k vytvoření těchto systémů se opírá o:
– Hromadné sledování populace planety.
– Využívání zranitelných populací pro označování dat.
– Obrovská spotřeba přírodních zdrojů.
– Neoprávněné použití duševního vlastnictví.
Navíc vzestup predikčních trhů (jako je Polymarket) proměnil lidské utrpení a politickou nestabilitu ve formu gamifikovaných spekulací. Když sázíme na výsledek válek nebo přírodních katastrof, dehumanizujeme oběti a ke krizím ve skutečném světě přistupujeme jako k pouhým datovým bodům za účelem zisku.
Závěr
Nebezpečí předpovědí umělé inteligence spočívá v jejich schopnosti vydávat se za objektivní pravdu a zároveň působit jako kontrolní nástroj. Předpovědi nepopisují jen budoucnost; formují jej tím, že tlačí sociální chování k předpokládanému výsledku.
Nakonec musíme uznat, že algoritmy nejsou věštci pravdy, ale nástroje moci a ti, kdo řídí data, řídí směr světa.
