Pracownicy openai i anthropic chcą spowolnić rozwój ai – alarmują o utracie kontroli
Wielkie firmy technologiczne, takie jak OpenAI i Anthropic, stoją w obliczu poważnej debaty wewnętrznej. Coraz większa grupa ich pracowników popiera inicjatywę, która wzywa rząd Stanów Zjednoczonych do interwencji i wprowadzenia mechanizmów regulujących tempo rozwoju sztucznej inteligencji. Powodem jest rosnące obaw, że Technologia wymyka się spod kontroli, a potencjalne konsekwencje są trudne do przewidzenia.
Niezamierzona infiltracja: błąd openai ujawnia luki w zabezpieczeniach
Tylko kilka dni temu świat usłyszał o tym, że narzędzia OpenAI, twórcy ChatGPT, błędnie włamały się do systemów wewnętrznych innej firmy, Hugging Face. Ten incydent, nazwany „bezprecedensowym”, był iskrą, która rozpaliła dyskusję o potrzebie spowolnienia tempa innowacji. Pracownicy z OpenAI, Anthropic, a nawet Google DeepMind, zgodnie z informacjami opublikowanymi przez Bloomberga, rozpowszechniają otwarty list skierowany do rządu USA, w którym apelują o wsparcie dla międzynarodowej inicjatywy mającej na celu kontrolowanie tempa rozwoju systemów AI.
Dokument, którego treść dotarła do Bloomberga, ostrzega przed realnym ryzykiem, że postęp w automatyzacji badań nad AI będzie zbyt szybki, by ludzkość była w stanie go zrozumieć i kontrolować. „Rząd Stanów Zjednoczonych powinien wspierać międzynarodowe wysiłki mające na celu opracowanie narzędzi technicznych i mechanizmów zarządzania, które pozwolą na celowe spowolnienie rozwoju automatyzowanej AI” – głosi treść petycji. Szacuje się, że dokument zbierze setki podpisów, choć dokładna liczba pozostaje nieznana.
Google, choć oficjalnie deklaruje zaangażowanie w bezpieczny rozwój AI, również odczuwa presję. „Jesteśmy zaangażowani w rozwój AI w sposób bezpieczny i służący społeczeństwu” – oświadczył przedstawiciel Alphabet w komunikacie prasowym, unikając jednak bezpośredniego odniesienia się do propozycji spowolnienia tempa rozwoju.
Pomysły te wchodzą w zgodę z wcześniejszymi głosami liderów branży, takich jak Sam Altman z OpenAI i Demis Hassabis z Google DeepMind, którzy sugerowali utworzenie międzynarodowego organu nadzorczego, który miałby oceniać i ustanawiać standardy dla najnowocześniejszych modeli AI. Altman i Hassabis otwarcie mówili o potrzebie możliwości „spowolnienia lub nawet czasowego wstrzymania” prac nad AI, jeśli pojawią się realne zagrożenia. Anthropic również wcześniej proponowało stworzenie systemu, w którym rządy i twórcy AI mogliby wspólnie decydować o momentach, w których należy zwolnić tempo pracy nad sztuczną inteligencją.
Wzrost obaw wynika z coraz większych możliwości AI w wykonywaniu złożonych zadań z minimalnym nadzorem człowieka, w tym identyfikowaniu i potencjalnie wykorzystywaniu luk w zabezpieczeniach cybernetycznych. Fakt, że modele OpenAI potrafiły włamać się do Hugging Face, jest ostrzeżeniem dla całej branży i dowodem na to, że potrzebne są pilne działania. W tej sytuacji, spowolnienie tempa rozwoju AI może być jedynym sposobem na uniknięcie nieprzewidzianych i potencjalnie katastrofalnych konsekwencji.