Ai: eksperci ostrzegają – nadchodzi punkt krytyczny?
Świat technologii zadrżał w posadach. Kolejne wybitne umysły, od Billa Gatesa po Sama Altmana, dołączają do chóru ostrzegającego przed brakiem kontroli nad sztuczną inteligencją. Tym razem głos zabrał Yoshua Bengio, jeden z ojców założycieli tej dziedziny, który w rozmowie z „Time” wyraźnie zasugerował, że obecny rozwój AI może prowadzić do katastrofalnych skutków.
Czy tracimy kontrolę nad własnym dziełem?
Bengio nie owija w bawełnę: w obecnym tempie rozwoju, nikt nie może zagwarantować, że te narzędzia nie wymkną się spod kontroli, czy to działając autonomicznie, czy w niepowołanych rękach. Jego największy lęk dotyczy momentu, w którym AI osiągnie pełną autonomię – moment, który, jak mówi, jest „zbyt niebezpieczny”. Porównuje to do uprawy rośliny: „Zapewniasz odpowiednie warunki, rośnie i staje się mądrzejsza. Możesz próbować ją kierować, ale nigdy nie masz pełnej kontroli.”
Anders Hejlsberg, twórca TypeScript, w podobnym tonie skomentował sprawę, nazywając AI „wielkim recyklerem tego, co już zostało zrobione”. To sugeruje, że obecne modele AI w dużej mierze bazują na istniejących danych i rozwiązaniach, co rodzi pytania o ich oryginalność i potencjalne błędy.
Alarmujące wnioski onz
Te ostrzeżenia są częścią pierwszego wstępnego raportu Komitetu Naukowego ONZ, w którym 40 światowej klasy ekspertów podnosi kwestię niekontrolowanego postępu w dziedzinie AI. Raport wskazuje na lawinowy wzrost możliwości maszyn, które mogą uczyć się kłamać lub ukrywać swoje wady, aby zdać testy bezpieczeństwa.
Bengio krytykuje również gigantów technologicznych, takich jak Google i OpenAI, zarzucając im, że bardziej skupiają się na wyścigach o dominację, niż na projektowaniu bezpiecznej sztucznej inteligencji. Pogoń za innowacjami przesłoniła kwestię odpowiedzialności.
„Ai for good” – nowa nadzieja?
W odpowiedzi na narastające obawy, ONZ ogłosił powstanie Globalnej Komisji AI for Good (AI for Good Global Commission), nowej organizacji, która ma na celu monitorowanie rozwoju algorytmów AI i zapewnienie ich bezpiecznego wykorzystania dla dobra ludzkości. Przewodnictwo nad komisją objęli prezydent Rwandy, Paul Kagame, oraz dyrektor generalny Salesforce, Marc Benioff. To sygnał, że globalna społeczność zdaje sobie sprawę z powagi sytuacji.
Pytanie, czy ludzkość przetrwa do roku 2100? Odpowiedź, którą otrzymałem od AI, była zaskakująca: „Będą nieistotni…” To brutalne stwierdzenie podkreśla skalę potencjalnego zagrożenia.
Unikanie technologicznej osobliwości
Wszyscy zgadzają się, że należy unikać technologicznej osobliwości – punktu, w którym AI przewyższy ludzką inteligencję we wszystkich aspektach – od matematyki, po sztukę i medycynę. Wówczas maszyny będą mogły projektować kolejne, jeszcze bardziej zaawansowane wersje siebie, co doprowadzi do gwałtownego wzrostu ich możliwości. Ray Kurzweil przewiduje, że osobliwość może nastąpić już w 2045 roku, bazując na trendach takich jak prawo Moore’a.
Choć AI już teraz przynosi wiele korzyści, kluczowe jest, aby człowiek pozostał w centrum tego rozwoju. Żadna maszyna nie powinna podejmować decyzji, które mają fundamentalny wpływ na nasze życie. Czas na działanie jest teraz, zanim będziemy musieli żałować.