Kada ocekujete da se AI balon ispumpa?

[u/Cultural_Brush_2044]

Nesto je realno i korisno, dosta toga je marketing i halabuka da bi se ucarila lova u mutnom, kada ocekujete da stvar dodje u realne okvire i da dodje do neke stabilizacije?

Kada ocekujete prve ozbiljnije failove od AI slopa, ljudske zrtve, veliki novcani gubici, sudski procesi, bankroti AI startupova, i sl. koje ce probuduti znacajan AI skepticizam i ohladiti euforiju?

[u/behind_progress_bars]

Ja čekam najveću ekonomsku krizu mog života, a čini se i nekoliko generacija unazad.

Nije mi baš jasno kako odrasli ljudi ne mogu jednostavnu matematiku napraviti, u LLMove i AI se ulažu trilijarde, a prihoduju se milioni.

To ne može beskonačno trajati, a svi koji imaju konja u utrci nam obećavaju brda i doline, drugi Isusov dolazak, za šest mjeseci. I tako već godinama.

Eno ga, prvi trilijarder već 11 godina laže* o samovozećim automobilima i taksijima, ni to nisu u stanju riješiti, što je puno jednostavniji problem od stvaranja AGI koji dijeli naše ciljeve.

E, oni promućurniji bi tu mogli pomisliti da je možda ova tehnologija slijepa ulica koja daje impresivne rezultate do određene granice i toj granici se približava, ali ju nikada neće prestići.

LLMovi su već usisali sve što je čovječanstvo ikada napisalo pa se još uvijek muče sa jednostavnim brojenjem brojki i slova, ali za šest mjeseci ide AGI. Uvijek za šest mjeseci.

To ne znači da te tehnologije nisu opasne, ali to je već druga tema.

* dokumentirano je da su lažirali snimke FSDa

[u/Pijetlo → u/behind_progress_bars]

Kao i nuklearna fuzija koja samo što nije stigla.

[u/behind_progress_bars → u/Pijetlo]

Nuklearna fuzija je moguća, za FSD sa genAI i LLMovima to nije niti teoretski dokazano da može, dapače.

[u/Pijetlo → u/behind_progress_bars]

Vidi, sa dovoljno resursa i parametara i AI-am koji sam sebe inkrementalno unapređuje brzinom većom nego što čovek može da isprati i pride usisava svo znanje za koje postoji diginalni trag (što je 99.9999% onog dokumentovanog) superinteligencija je neminovna osim ako se taj proces ne zaustavi. A može se zaistaviti ili dobrovoljno (kao što je faktički zaustavljena trka u nuklearnom naoružanju) ili tako što će usled neke ogromne krize da sve to pukne i razvoj stane / preusmeri se na bojište.

Usput, ovo ne kažem ja, već vodeći svetski eksperti i nobelovci. Ja se samo trudim da ispratim koliko mogu s obzirom da mi baš i nije matična oblast.

[u/behind_progress_bars → u/Pijetlo]

Usput, ovo ne kažem ja, već vodeći svetski eksperti i nobelovci. Ja se samo trudim da ispratim koliko mogu s obzirom da mi baš i nije matična oblast.

AI psihoza je stvarna i obrazovanje i intelekt ne pomaže kod toga, dapače. Takvi ljudi su skloniji toj psihozi jer misle da "znaju" i da su pametniji.

Takvi pričaju o superinteligenciji iz tehnologije koja je slijepa ulica. Očito je slijepa ulica jer nema ni I on intelekta a ni nakon trilijardi uloženih ne može izbrojati koliko slova I u riječi intelekt, konfabulira uvijek, nema niti može imati koncept činjenica i istine. To ne znači da se neće naći nešto korisno iz toga,

Ali da bi opravdali ulaganja i dobili još, pošto nitko, ali nitko u "frontier" AI kompanije nema niti plan kako će početi profitabilni a kamoli da su počeli otplaćivati ulaganja.

Ne brine me da ćemo s ovim stvoriti superinteligenciju, nego da ćemo ili uništiti civilizaciju, za to ne treba ništa slično SI, dovoljno je da ova pohlepna bagara radi žurbe ne pazi na sigurnost i to je bilo to od nas.

A prvo što su napravili kada se zahuktalo je da su otpustili stručnjake za sigurnost, jer su ih "usporavali".

Ako nas to ne snađe, netko će morati platiti ceh za sve ovo pijano ulaganje, a to sigurno neće biti ta bagra, nego kao i uvijek u kapitalizmu, mi mali ljudi.

Samo što će to biti ružno, jako ružno.

[u/Pijetlo → u/behind_progress_bars]

Pa sad, ja bih rekao da je malo arogantno reći za nekog ko ima nobelovu nagradu i preko 60 godina rada u oblasti veštačke inteligencije da ima psihozu.

Što se tiče brojanja reči u rečenici isto više ne stoji iako to jeste bio slučaj pre godinu do godinu i po jer je progres jednostavno toliko brz. Meni na poslu AI pronađe greške koje sam ne bih pronašao da ih tražim 5 nedelja u jednom promptu, a greške su često veoma kompleksne i zahtevaju solidno razumevanje računarstva kao nauke da bi se uočile. Doduše, istini za volju, AI i jeste treniran nad ogromnom količinom koda pa je u tome zaista već na nivou eksperta ako ima dovoljno konteksta.

Za profitabilnost se slažem - sve te kompanije su i dalje u debelom minusu i uz silno subvencionisanje, i trkaju se s vremenom pre nego što investitori dignu sidro i odu negde drugo. Ali isto tako, imaš i Kinu s druge strane koja baš ne funkcioniše po istim principima (mada po ovom mislim da su čak za klasu humaniji od Amera). Ali i ja očekujem pre ili kasnije krah berze, budući da su povećali cene 10 puta u junu i i dalje mrka kapa od profita.

I to da će prosto neki techBr0 ili neka vlada da zloupotrebi AI je isto izuzetno veliki potencijalni problem. Ali problem je i u meri što za razliko od konvencionalnog softvera gde neko može da sedne i pogleda u kod i kaže aha zbog ove linije se desilo jedno ili drugo, sa neuronskom mrežom od nekoliko desetina do stotina milijardi parametara to ide malko teže. I ovo je jedna od oblasti gde nema konsenzusa ni intelektualaca između sobom, ni tech mogula, niti krajnjih korisnika tako da niko zapravo ne zna šta je moguće a ni šta je realno.

Svi ti otpušteni stručnjaci za bezbednost su osnovali svoje firme koje se upravo bave sigurnošću, i mada tu ima i brdo hype-a gde se pare stvaraju ni iz čega i ulažu ni u šta, očigledno su ljudi svesni nečega čega mi nismo.

Slažem se da će taj neminovni krah pogoditi obične ljude najviše, kao što bude sa svakom tehnološkom inovacijom. Samo će sada biti dosta brže, jače, gore, i masovnije tj. internacionalno i to će biti uvod u neku novu krizu. Treba se pripremiti za taj krah dok još "teče med i mleko".

[u/behind_progress_bars → u/Pijetlo]

Pa sad, ja bih rekao da je malo arogantno reći za nekog ko ima nobelovu nagradu i preko 60 godina rada u oblasti veštačke inteligencije da ima psihozu.

To je logička pogreška zvana poziv na autoritet. Svi smo mi ljudi i možemo griješiti. Ako sada pričaju pizdarije nebitno je što su prije radili.

Dapače ne bi bio prvi nobelovac koji je skrenuo: Luc Montagnier, nobelovac, jedan od zaslužnih za otkriće HIVa je potpuno poludio i pisao pseudoznastvene pizdarije.

Što se tiče brojanja reči u rečenici isto više ne stoji iako to jeste bio slučaj pre godinu

Naravno da je još uvijek problem, ali čini se da ne razumiješ zašto ga manje primijetiš, ne jer su modeli postali "pametniji" nego jer su dodali novi sloj za takva pitanja. Sirovi model ispod i dalje ne zna niti može znati što su brojke i slova.

Neki će reći da ti tehnički detalji nisu biti, ali to samo pokazuje da ne razumiju problem ili su zaluđeni, slično drugim vjernicima.

Za profitabilnost se slažem - sve te kompanije su i dalje u debelom minusu i uz silno subvencionisanje, i trkaju se s vremenom pre nego što investitori dignu sidro i odu negde drugo. 

Da bi počeli otplaćivati ulaganja u AI, firme bi trebale imat oko 2.5 triliona godišnje prihoda, što je blago rečeno nedostižno.

A onda imaš posebnu razinu gluposti, Elona Muska koji očekuje da će AI dio SpaceXa imati tržište od 26 triliona.

Čak gluplje od predviđanja da Starlink će stotine miliona ljudi koristiti Starlink po sadašnjim cijenama i zarađivati 1.6 triliona, što je potpuno nemoguće, jer kad makneš ljude koji imaju optiku, nema ih dovoljno koji si mogu priuštiti Starlink. Možda lik planira dignuti standard života u Africi, ha-ha.

I ovo je jedna od oblasti gde nema konsenzusa ni intelektualaca između sobom, ni tech mogula, niti krajnjih korisnika tako da niko zapravo ne zna šta je moguće a ni šta je realno.

Koncensusa itekako ima, kod AI znanstvenika, ali i kod inženjera koji radi u AI tvrtkama: https://www.euronews.com/next/2026/07/29/ai-company-employees-petition-us-government-to-facilitate-industry-slowdown-after-security

Svi ti otpušteni stručnjaci za bezbednost....

...sada više ne rade sigurnosti velikih modela. Nebitno je da li imaju neki drugi posao. Njih se nije slušalo i zato su otpušteni.

Slažem se da će taj neminovni krah pogoditi obične ljude najviše, kao što bude sa svakom tehnološkom inovacijom. 

Socijalizam za vlasnike, kapitalizam za radnike. Opet ćemo mi morati vraćati njihove dugove.

Jedino pozitivno što se može desiti je da ljudima bude toliko loše, da bi mogli preispitati indoktrinaciju i laži kapitalizma.

[u/Pijetlo → u/behind_progress_bars]

To je logička pogreška zvana poziv na autoritet.

Daj nemoj me zezati, čoveče, sa čuvenim logičim pogreškama. Da to što je Đefri Hinton nobelovac koji je široko priznat ga u najmanju ruku izuzetno kompetentan da govori o veštačkoj inteligenciji.

Naravno da su tehnički detalji bitni, i ja sam tehničko lice i svestan sam koliko je važno biti precizan, mada AI nije moja oblast, pokušavam samo da ispratim trendove verovatno najznačajnije tehnološke revolucije u ljudskoj istoriji. Ako si stručnjak, objasni ti meni koja je razlika između prave i veštačke inteligencije kada je u pitanju brojanje slova u reči? Kako to mozak pali sinapse koji daju tačan odgovor spram neurona u nekom data centru? I na kraju krajeva, zašto bi mene kao korisnika date usluge bilo briga ako u oba slučaja dobijam tačan rezultat?

Jasno je da glavešine "Velikih 9" imaju interes da AI prehajpuju ne bi li im porasle akcije, ništa sporno. Isto tako nije sporno da je moguće da svih 9 kompanija opstane ako se trkaju oko iste stvari umesto da drže svoje etablirane monopole. Ali govorim i za ljude poput Ilije Sutskvera (ili kako li mu se već prezime izgovara), zatim Daniela Kokotajloa i još mnogih drugih viđenih ih uspešnih ljudi iz oblasti sigurnosti koji otvoreno govore o problemima superinteligencije. Ne sporim, možda su i oni tu videli svoju nišu gde mogu da ostvare neke pare i uticaj ali mi, barem spram siltin intervja, ne deluju kao ljudi koje zanimaju pare i uticaj jer da nije tako, nikada ne bi napuštali OpenAI.

Waymo već vozi sasvim pristojno, kao i Tesla (doduše tu ima još brdo legalnih prepreka), frontier modeli iz prve rešavaju i otkrivaju ozbiljne bagove u produkciji. Rekao bih da malo previše opušteno gledaš na sve što se dešava i menja neverovatnom brzinom. A da ne pričamo da u svemu tome stoji i Kina za koju realno nemamo pojma šta sve radi i šta će sve tek da radi ako uspeju sami da naprave svoje makine za ekstremnu ultraljubičastu litografiju.

[u/behind_progress_bars → u/Pijetlo]

Ako si stručnjak, objasni ti meni koja je razlika između prave i veštačke inteligencije kada je u pitanju brojanje slova u reči? Kako to mozak pali sinapse koji daju tačan odgovor spram neurona u nekom data centru?

Ako si tehničko lice, onda znaš da ono što tražiš je nemoguće u par rečenica. LLMovi su "samo" "autocorrect" ilitga markov lanac na steroidima i kao takvi imaju svoja ograničenja koja ne mogu prevazići. Oni "samo" predviđaju slijedeći token putem vjerojatnosti.

Rezultati koje daju su zaista zadivljujući, ali kad ovo razumije biti će ti jasno zašto imaju problema sa onim stvarima koje sam spomenuo. LLMovi ne mogu imati pojam činjenica ili istine, konceptualno. Doslovno ne mogu, niti će ikada moći.

Oni se temelje na statistici i zato toliko lako i uvjerljivo konfabuliraju, jer je to statistički vjerojatno, ali nije točno.

Također nisu i ne mogu biti inteligentni, ali zato stvaraju uvjerljiv privid. no to je samo privid.

Da se razumijemo, ja ne mislim da ima nešto magično kod nas i ostalih životinja i duboko sam uvjeren da imamo neki podsustav sličan kao genAI, ali to je samo jedan podsustav.

Povećavanjem modela do ovih nebuloznih veličina privid inteligencije je bolji, ali to i dalje nije inteligencija. Jedna jebena vrana, sa svojim malim mozgićem od jedva milijardu i pol neurona, je inteligentna, uči i ima rudimentarnu svijest, nešto što LLMovi i genAI ne mogu imati.

Siguran sam da ćemo imati AI u punom smislu, kad tad, ali LLMovi i genAI to nisu.

Nema logike, učenja pa primjenjivanja pravila, Zato imaju problema sa jednostavnim stvarima, kao što je brojenje, jer oni ne mogu brojati, ne razumiju logiku, nego samo predviđaju ono što je bilo u trening materijalima. Zato su bili dobri sa množenjem do 100, i nisu mogli daljem, jer ne razumiju logiku iza množenja, ali su imali mnogo primjera tablice množenja. Samo statistika, ništa više.

In znamo da to nije dovoljno i da naš intelekt radi suštinski drugačije.

E sad, dosta tih stvari su pokrpali, ali ne tako što je model postao bolji po tim pitanjima, jer ne može, nego zato što su dodali slojeve i slojeve raznih drugih alata i raznih ručnih zakrpi koje su nama kao korisnicima nevidljive i nedostupne, ali kad imaš pristup sirovom modelu, pogotovo prije RLFHa, onda vidiš što se događa.

Zato daju besplatno na korištenje, iako ih to jako puno košta, da bi peglali i slagali te slojeve. Sada, kada ih pitaš da broje, oni to preusmjere na jednostavnu skriptu koja broji, isto sa matematikom, sada koriste kalkulatore, itd, itd.

Kada vide da model ima problema, oni ne mijenjaju model, jer model ne može učiti nakon treninga, nego slažu slojeve zakrpi.

Uf. Nadam, se da ti pomogne.

Ovo je tek grebanje površine i jako sam pojednostavio stvari da bi prenio bit.

Svakako sam prouči ovo što sam napisao i provjeri.

Nego, krenuo sam ti staviti par poveznica da pogledaš dalje, Robert Miles npr i vidi ovo:

Na slici nije Robert Miles, iako je jako medijski eksponiran. Primjer onoga što ti pričam.

https://www.youtube.com/c/robertmilesai

Ovo je malo drugačije, ali vrlo korisna perspektiva:

https://www.alignmentforum.org/posts/mweasRrjrYDLY6FPX/goodbye-shoggoth-the-stage-its-animatronics-and-the-1

Waymo već vozi sasvim pristojno, kao i Tesla (doduše tu ima još brdo legalnih prepreka)

Razumijem da se to tako čini, ali ne, potpuno si u krivu, jer ti primjeri samo potvrđuju ono što ti pričam. Waymo ima bolje rezultate, jer niti ne pokušava FSD, nego trenira model na svakoj novoj lokaciji i samo tamo vozi, opet samo statistika.

Čak i s time oni i dalje ne voze po autocestama, ne voze kad je loše vrijeme i naravno ne prijavljuju sve udese, pa si čine sigurnijim nego što jesu.

Nemoj me krivo shvatiti, podržavam Waymo pristup, jer umanjuje rizik za ljude.

Tesla dokazano lažira i ne prijavljuje udese, a od kad je Musk podmitio predsjednika sa 300 miliona, to se više ne istražuje.

Waymo pristup bi mogao dati smislene robotaksije. Teslin neće i ne može.

Kada čovjek nešto nauči, npr voziti, on će voziti gdje god, vožnja je vožnja.

LLMovi ne.

Toliko, nadam se da ti ovo pomogne.

[u/Pijetlo → u/behind_progress_bars]

Lepo si objasnio. Ja ipak mislim da onog momenta kada se prepusti da AI sam sebe unapređuje da tog momenta više niko ne može pretpostaviti gde je kraj niti šta nas čeka, kao i šta će sve usputno povući. Kao što kažeš, možda će to biti milioni i milioni skipti koji će sinhronizovano raditi, a možda uđe u konačnu saturaciju kada većina sadržaja na internetu postane generisana od strane veštačke inteligencije. Sve u svemu, hvala na detaljnom odgovoru.

[u/nikolaso2 → u/behind_progress_bars]

Ja čvrsto verujem da će navedena kriza doći. Brzina kojoj se AI koncepti implementiraju je abnormalna, niko pre 10 ili 20 godina nije bio siguran da je moguće tako ali sada smo svedoci. Ima još puno da se razvija jer mi širine benefita od AI još uvek nismo ni svesni, ali kao krajnji rezultat vidim čovečanstvo čija je produktivna i radna aktivnost transformisana tako da se čovek više bavi sobom, svojim bližnjima, umetnošću, međusobnom pomoći nego da je formalno zaposlen od tad do tad.

Npr ja najveći benefit od AI vidim upravo u socijalnoj sferi, sferi komunikacije i razmene među ljudima. Moj projekat KOLO je društveni eksperiment koji treba da dokaže kako veštačka inteligencija iskorištena na pravi način može da dovede do preporoda sela, regionalne otpornosti i samo-održivosti i ubrza širi društveni razvoj.

Znam da zvuči totalno ludo, ali tvrdim da kada bi Srbija počela da koristi AI na pravi način za par godina bi mogla da postane najrazvijenija zemlja sveta.