Openai ostrzega: totalna automatyzacja to droga do katastrofy!
Wbrew powszechnemu entuzjazmowi wokół sztucznej inteligencji, liderzy OpenAI, Sam Altman i Jakub Pachocki, wstrząsnęli branżą alarmującym komunikatem: dążenie do pełnej automatyzacji wszystkiego może być nie tylko niezadowalające, ale i wręcz niebezpieczne. To ostrzeżenie, które z pewnością zmusza do refleksji nad kierunkiem, w którym zmierza rozwój AI.
Przeciążenie tokenami – czy to symptom problemu?
Altman ujawnił, że pojedynczy pracownik OpenAI przetwarza nawet 100 miliardów tokenów miesięcznie, co świadczy o ogromnym zapotrzebowaniu na moc obliczeniową i jednocześnie o skali eksperymentów. Co jednak ważniejsze, jak sam podkreśla, nie jest to lider w zużyciu zasobów – sugerując, że skala operacji jest jeszcze większa, niż moglibyśmy przypuszczać. Ta informacja, zestawiona z ostrzeżeniami dotyczącymi nadmiernego entuzjazmu dla automatyzacji, staje się niezwykle sugestywna.
Obaj liderzy wyraźnie wskazują, że systemy AI powinny pozostać pod kontrolą człowieka. W miarę jak AI staje się coraz bardziej zaawansowane, kluczowe będą takie funkcje ludzkie jak ustalanie zasad, podejmowanie trudnych decyzji, dokonywanie ocen, a także wnikanie do pracy wartości, gustu, troski i odpowiedzialności. To nie tylko kwestia technologii, ale przede wszystkim etyki i odpowiedzialności za jej rozwój.
Wyścig o dominację na rynku AI agencji trwa w najlepsze. Anthropic, jak i OpenAI, starają się pozyskać klientów do swoich platform kodowania (Claude Code i Codex) przed planowanymi wejściami na giełdę. Ostatnie ostrzeżenia wydane przez obie firmy sugerują, że presja konkurencyjna nie przesłania troski o potencjalne zagrożenia związane z niekontrolowanym rozwojem.
Podobne obawy wyrażono niedawno w blogu Anthropic, gdzie wskazano na trudności w ściganiu się z tempem automatyzacji oraz brak rozwiązań w przypadku błędów popełnianych przez systemy AI. Wezwanie do spowolnienia tempa rozwoju AI, aby umożliwić społeczeństwu i badaczom nadążenie za zmianami, brzmi jak alarm wstrząsający branżą.
Luis von Ahn, CEO Duolingo, również podkreśla, że jego najlepsi projektanci tworzą lepszą pracę niż sztuczna inteligencja, a Marc Benioff, CEO Salesforce, zapowiada, że jego firma nie redukuje zatrudnienia w dziale sprzedaży. W słusznych słowach von Ahna: