Yuval Noah Harari ostrzega przed niekontrolowanym rozwojem AI

Yuval Noah Harari określa sztuczną inteligencję jako „największy eksperyment psychologiczny i społeczny” w historii ludzkości. W obszernej rozmowie z Zanny Minton Beddoes, redaktorką naczelną The Economist, historyk i eseista powrócił do tematu, który zdominował jego myślenie w ostatnich latach – rosnącej potęgi tej technologii i krótkiego czasu, jaki ludzkość ma na podjęcie decyzji o jej kierunku.

Elon Musk vs. Harari: Wizje przyszłości AI

Punktem wyjścia była porównawcza rozmowa. Kilka tygodni wcześniej Minton Beddoes przeprowadziła wywiad z Elonem Muskiem, który przewidział, że w ciągu dekady AI znacznie przewyższy ludzką inteligencję, wygeneruje erę materialnego dobrobytu i wymknie się spod kontroli człowieka. Harari zgadza się z dwoma z tych trzech punktów, ale wprowadza istotne zastrzeżenie. „Wciąż mamy kontrolę w 2026 roku, a to od nas zależy, co zrobimy teraz, i to jest kluczowe” – stwierdził.

Odpowiedzialność za rozwój AI

Dla Harari, różnica między tym, co prawdopodobne, a tym, co nieuniknione, nie jest tylko semantycznym niuansem, ale osią całej debaty. Oskarżył liderów wyścigu AI o używanie narracji o nieuchronności jako sposobu na uniknięcie odpowiedzialności: „Narracja o nieuchronności to narracja o braku odpowiedzialności” – podkreślił podczas rozmowy.

Przesunięcie zaufania w stronę algorytmów

Duża część ostrzeżeń Harari dotyczy koncepcji zaufania, którą sam badał przez lata. Według jego analizy, „najważniejszym aktywem świata” nie jest ropa naftowa, ani chipy, a nawet pieniądze, lecz samo zaufanie, które cicho przesuwa się z instytucji ludzkich w kierunku systemów algorytmicznych. Jako przykład podaje system finansowy. Wraz z coraz bardziej wyrafinowanymi instrumentami finansowymi, stają się one również coraz trudniejsze do zrozumienia dla ludzkiego mózgu, co zmusza społeczeństwa do delegowania coraz bardziej złożonych decyzji w ręce AI. Rezultatem, ostrzega, może być świat, w którym nawet najbardziej wykwalifikowani doradcy nie będą rozumieć, dlaczego system rekomenduje daną akcję – „AI powiedziała, żeby zrobić X. Nie mamy pojęcia, dlaczego AI powiedziała, żeby zrobić X, ale musimy w to wierzyć”.

Centralizacja, a nie decentralizacja władzy

Jedno z najbardziej stanowczych proroctw Harari w rozmowie przeczy powszechnemu oczekiwaniu co do technologii cyfrowej. Podważa ideę, że internet i narzędzia cyfrowe demokratyzują władzę. Dla historyka, AI wywoła efekt przeciwny. „Zcentralizuje władzę jak nigdy dotąd w historii” – stwierdził.