Sztuczna inteligencja pisze kod? ekspert ostrzega przed ukrytym długiem technicznym

Wszyscy zachwycamy się możliwościami sztucznej inteligencji, która potrafi pisać kod, debugować i przyspieszać programowanie. Ale czy naprawdę rozumiemy, jakie to niesie ze sobą konsekwencje? George Hotz, znany programista i haker, przestrzega przed nowym zagrożeniem – ukrytym długiem technicznym, który może spowolnić rozwój oprogramowania.

Czy ai tworzy kod, który sami nie będziemy w stanie zrozumieć?

Hotz, twórca comma.ai i Tinygrad, uważa, że narzędzia oparte na sztucznej inteligencji, choć wydają się obiecujące, prowadzą do powstania kodu, który jest funkcjonalny, ale niezwykle trudny do zrozumienia, utrzymania i skalowania. To nie kwestia, że AI zawodzi, ale że działa tak dobrze, że firmy zaczynają na nim polegać zbyt mocno, tracąc kontrolę nad procesem tworzenia oprogramowania.

Problem leży w tzw. vibe codingu – praktyce, w której programiści przyjmują kod generowany przez AI bez pełnego zrozumienia jego działania. Modele AI, choć potrafią generować przekonujące fragmenty kodu, bazują na ogromnych zbiorach danych, a nie na głębokim zrozumieniu architektury oprogramowania czy konsekwencji technicznych. Działa to dobrze w przypadku małych zadań, ale szybko pęka, gdy projekt staje się bardziej złożony.

„Programowanie to nie tylko pisanie linii kodu, ale podejmowanie decyzji inżynierskich, przewidywanie błędów i budowanie systemów, które będą działać przez lata” – podkreśla Hotz. To właśnie tego brakuje sztucznej inteligencji, która nie potrafi zastąpić ludzkiego myślenia i doświadczenia.

Hotz zyskał sławę jako nastolatek, gdy zhakował pierwszy iPhone. Jego doświadczenie w programowaniu i inżynierii odwrotnej daje mu unikalną perspektywę na to, jak sztuczna inteligencja wpływa na branżę. Nie jest przeciwnikiem AI – wręcz przeciwnie, widzi jej potencjał w zwiększaniu produktywności. Jednak ostrzega przed automatyzacją masową, która prowadzi do zastępowania doświadczonych inżynierów przez algorytmy.

Kiedy duże, krytyczne systemy będą zależały od kodu generowanego automatycznie i słabo weryfikowanego przez ludzi, błędy przestaną być prostymi bugami, a staną się poważnymi problemami strukturalnymi, które będą niezwykle trudne i kosztowne do naprawienia. Debata ta ujawnia rosnące napięcie w branży technologicznej – czy przyspieszenie rozwoju oprogramowania za pomocą AI nie odbywa się kosztem jego jakości i stabilności?

W końcu, jak zauważa Hotz, automatyzacja programowania bez głębokiego zrozumienia nie upraszcza procesu, a jedynie przesuwa problemy w przyszłość. To ostrzeżenie, którego nie możemy ignorować.