AI a společnost

[Iwar the Homeless]

Ak skotocne AI dokaze robit zbytocne otravnu robotu mnohonasobne lepsie (je otazne, ci dnes uz sme za touto hranicou, alebo sa cez nu onedlho dostaneme), musime sa opytat, ci tieto obrovske naklady a environmentalna zataz su take obrovske v porovnani so stylom vyvoja ktory pouzivame dnes.

Napriklad: ak boti ktori bezia na lokalnom stroji s dvomi silnymi grafikami za mesiac-dva pod vedenim jedneho sikovneho developera aplikaciu, ktoru by inac vyvijal team piatich developerov rok, je to skutocne take mrhanie zdrojmi?

Mame jeden server cca za 80K plus jedneho developera, na dva mesiace, nech je to dokopy 100K. Plus prevadzkove naklady ma jeden server a jeden osobny pocitac na dva mesiace. Plus resourcy na mizivy zlomok trenovania modelu. To je uz zanedbatelne.

Naproti tomu tu mame bezny vyvoj cca 60 man-monthov a naklady na 60 mesiacov prevadzky osobneho pocitaca (plus office a podobne). Takze povedzme cca pol miliona.

Je AI skutocne zle a neekonomicke?

Mne nejde teraz o tom kde AI "šetrí" peniaze (samozrejme že v prvom rade pre vlastníkov biznisov a veľké korporácie). Prevádza AI a AI datacentier má obrovské energetické a environmentálne (a sociálne) náklady/ dopady - voda, pôda, emisie, elektrina, (elektro)odpad atď atď. Nech sa na to pozerám ako koľvek, nevidím ich opodstatnenie. Jednak sú oveľa podstatnejšie veci do ktorých urgentne potrebujeme dávať zdroje a venovať im prioritu. Plus vidím kto tlačí veľké AI korporácie a akú agendu tlači - v lepšom prípade sú tito ľudia bondovský villains.

Aj keď imo, to je druhá vec, že čo sa bude diať keď príde k masovým prepúšťaniam kvôli AI - bez toho aby boli vytvorené iné pracovné a životné príležitosti pre ľudí. No nie že čo bude, ono už tam postupne smerujeme.

Ok, ale toto nie je k AI ilustráciám v RPG, ale o AI všeobecne.

[MarkyParky]

Cor: Existují divoká a temná zákoutí kulturní evoluce, která tvrdí, že se to už dávno stalo a skrze sdílení příběhů jsme jen dílčím informačním vehiklem nad kterým spolu kolektivní informační superentity válčí o zdroje. Solidní věda se jim samozřejmě AFAIK vyhýbá

Liší se v tom, kdy se to stalo. Někdo ten zlom vidí v internetu, někdo v nástupu byrokracie, někdo v renesanci, někdo v prvních biblických příbězích (doplň vhodné ekvivalent pro východní a další civilizace). A pak taky v tom, do jaké míry jsou ty superentity (ne)ostře ohraničené a dokáží symbiotit či parazitovat jedna na druhé, až třeba splynouv novou.

Mě na tomhle přijde nejlepší, že ač tyhle entity můžou být vesele nevědomé, my, homo Sapiens, se svým vědomím i inteligencí jim veselé sloužíme leckdy do roztrhání těla (ať uz svého, nebo toho sloužícího konkurující entitě).

Nějak se mi líbí ironická představa all-mighty-homo-sapiens plnicího roli řadového transmiteru ve vražedné souboji dvou bezduchých informačních améb.

[LokiB]

Požadavek "nedělejte to, protože se toho bojím" je nereálný.

Ok, co nedělejte to, protože nás to zabije? Na to taky dlabem?
(A nemluvím ani o malování obrázků, ani o AI overlords.)
Enviromentální znečištění, kyselé deště, atomové zbrojení, s tím se přece taky nic nedělalo a nechalo se to volně běžet.

out.

Přesně tak, vždycky se najde dost těch, kteří na to budou dlabat. Vždycky to tak bylo. Jestliže jsme všichni smrtelní, tak co sejde na tom, jestli o dvacet, třicet let dříve či později. Tak na co vlastně dlabat? Hele, tohle jsem nevymyslel já, tohle řešili lidi před už 3000 tisíci lety a dřív...
A když přitom někdo může "na něco přijít", můžeme s maličkou nadějí "získat nesmrtelnost" ... je to sázka na nízká procenta, ale zase prohra je stejná, jako když vůbec nevsadíš. Tak co?
Leda by sis jako Marky vysnil Asimovovi Gaiu z Nadace a chtěl to změnit (ne, to si dělám z Markyho srandu, on nemá rád, když mluví někdo za něj, takže jako bych nic neřekl )

Navíc, není mnoho racioálního za tím "může nás to zabít"? Žádná jasná cesta k tomu, že "nás AI zabije" neexistuje. Možnosti, dohady, varianty a teze. Nic hmatatelného. Žádný důkaz, že s AI je větší šance na zkázu než bez ní. Environmentální zkáza nikoho vážně moc neosloví. Přizpůsobíme se, jako vždycky. Za cenu, jistě. Ale otázkou je, kdo ji bude platit?

[Eleshar_Vermillion]

Naše děcka

[Antharon]

Ak skotocne AI dokaze robit zbytocne otravnu robotu mnohonasobne lepsie (je otazne, ci dnes uz sme za touto hranicou, alebo sa cez nu onedlho dostaneme), musime sa opytat, ci tieto obrovske naklady a environmentalna zataz su take obrovske v porovnani so stylom vyvoja ktory pouzivame dnes.

Napriklad: ak boti ktori bezia na lokalnom stroji s dvomi silnymi grafikami za mesiac-dva pod vedenim jedneho sikovneho developera aplikaciu, ktoru by inac vyvijal team piatich developerov rok, je to skutocne take mrhanie zdrojmi?

Mame jeden server cca za 80K plus jedneho developera, na dva mesiace, nech je to dokopy 100K. Plus prevadzkove naklady ma jeden server a jeden osobny pocitac na dva mesiace. Plus resourcy na mizivy zlomok trenovania modelu. To je uz zanedbatelne.

Naproti tomu tu mame bezny vyvoj cca 60 man-monthov a naklady na 60 mesiacov prevadzky osobneho pocitaca (plus office a podobne). Takze povedzme cca pol miliona.

Je AI skutocne zle a neekonomicke?

Mne nejde teraz o tom kde AI "šetrí" peniaze (samozrejme že v prvom rade pre vlastníkov biznisov a veľké korporácie). Prevádza AI a AI datacentier má obrovské energetické a environmentálne (a sociálne) náklady/ dopady - voda, pôda, emisie, elektrina, (elektro)odpad atď atď. Nech sa na to pozerám ako koľvek, nevidím ich opodstatnenie. Jednak sú oveľa podstatnejšie veci do ktorých urgentne potrebujeme dávať zdroje a venovať im prioritu. Plus vidím kto tlačí veľké AI korporácie a akú agendu tlači - v lepšom prípade sú tito ľudia bondovský villains.

Aj keď imo, to je druhá vec, že čo sa bude diať keď príde k masovým prepúšťaniam kvôli AI - bez toho aby boli vytvorené iné pracovné a životné príležitosti pre ľudí. No nie že čo bude, ono už tam postupne smerujeme.

Ok, ale toto nie je k AI ilustráciám v RPG, ale o AI všeobecne.

Priklad ktory som pisal je ekonomicko-ekologicky vyhodnejsi, nez bezny pristup. Bezi na lokalnom servri, takze nemas ziadne (vymyslene) naklady na megaservrovne a obdovsku spotrebu vody (wtf? Voda sa da spotrebovat?) mas jeden pocitac sice so silnym vykonom ale stale mnohonasobne mensim ak to porovname s pocitacmi teamu.

Masove prepustanie kvoli AI uz v IT zazivame nejaku dobu. Nie je take hlasne ako v pripade umelcov ale definitivne existuje. Logika hovori, ze ak ludstvo kvoli AI strati miliardu pracovnych miest, ktore moze robit AI, dava zmysel, ze legislativa na to odpovie zdanenim, zvysi sa zivotna uroven a ludia sa budu moct venovat veciam ktore ich bavia. Umeniu, remeslam, vychove deti.

[Cor]

Marky: však já ta zákoutí znám a v lecčem hodně souzním.
Já mám za to, že je to graduální proces a začalo to tím, co Harari pojmenoval jako schopnost víry v imaginární řád - intersubjektivní realitu. Od té doby je Lidstvo jak utržené ze řetězu a neustále přetváří fyzický svět podle...no, vlastně své fantazie. Což je ten "prostor", kde se rodí, přetvářejí a vyvíjejí ty "entity", které zmiňuješ.
Každá další technologie, co umožňuje externalizovat paměť, rozhodování apod., od písma, kalendáře, přes počítače až po AI, to jen umocňuje.
Jinak, to naše slavné vědomí a inteligence jsou hodně relativní pojmy, vztahují se a fungují na specifické výseči a škále, ve které žijeme a jsme schopní fungovat. Co my víme, jestli si náhodou buňky, co nás tvoří taky svým způsobem "nemyslí", že jsou pány tvorstva a naše Já považují jen za sofistikované AIčko pro řízení své civilizace.
Nebo co si doopravdy bude "myslet" nějaká hypotetická ASI. A koneckonců, celé to sebeuvědomění a inteligence lidského střihu mohou být na jiných škálách existence vlastně nezajímavá a zbytečná věc.

[Passingby]

Masove prepustanie kvoli AI uz v IT zazivame nejaku dobu. Nie je take hlasne ako v pripade umelcov ale definitivne existuje. Logika hovori, ze ak ludstvo kvoli AI strati miliardu pracovnych miest, ktore moze robit AI, dava zmysel, ze legislativa na to odpovie zdanenim, zvysi sa zivotna uroven a ludia sa budu moct venovat veciam ktore ich bavia. Umeniu, remeslam, vychove deti.

Já když kolem vidím, jak lidi popisujou všechny ty svoje setupy, agentic workflows, harnessy a nevimcoještě (většinou složený z NĚKOLIKA modelů, protože se navzájem cross-checkujou, jeden píše kód a druhej v něm hledá chyby nebo k němu píše testy atd.) tak NECHÁPU, ale fakt absolutně NECHÁPU, jak něco takovýho má být schopný škálovat na ty vyšší stovky miliónů (???) uživatelů, který by velký AI systémy v té zářivé budoucnosti, kdy nám sice AI všem vezme práci, ale my díky tomu konečně budeme moct dělat to, na co jsme se celou tu dobu těšili, měly mít (plus nárust spojený s dalšími věcmi, jako je změna paradigmatu v obecném pojetí práce jako takové a její automatizace ve velkém měřítku pomocí AI místo tradičních programů a skriptů).

(a ano, schválně jsem ty vedlejší věty napsal tak, jak jsem je napsal  )

[LokiB]

Jaj, to nám to zas nějak ulítlo do ezo-dezo krajin

Harari (zejména v Nexu, v Homo sapiens tolik ne) je hezký příklad toho, jak se dají formulovat myšlenky zajímavě i provokativně a podnětně, i když jsou na písku. A když to není věda (sic!), ale taková Dan Brown na jiným poli
Filozofická otázka je, jestli víc škody nadělá AI, když a jak ovlivní naši společnosti, nebo Harari, když a jak ovlivní naši společnosti.
Kdybychom to měl posuzovat podle toho, co psal Cor, řekl bych, že jestliže podobný přístup zvolí více lidí, tak se Harari podepsal na společnosti hůře než AI ... i když to taky asi neměl svými knihami na mysli.
Jakože, když si znovu čtu, co psal Cor, tak je to vlastně komplexní velezrada lidstva

Paradoxní ...

Naše děcka

No jo, my jsme platili za naše rodiče a ti za své. Na začátku děti živíme a staráme se o ně, a oni pak za nás zaplatí. Takový je obecně deal.
Zas budou mít výhodu, a to je třeba vzít v úvahu, že se jim to se vším tím, co dostanou od nás k dispozici, bude splácet snáz, než by se to splácelo nám. To je taky část toho dealu. A třeba jim v tom AI dost pomůže.

[Antharon]

Já když kolem vidím, jak lidi popisujou všechny ty svoje setupy, agentic workflows, harnessy a nevimcoještě (většinou složený z NĚKOLIKA modelů, protože se navzájem cross-checkujou, jeden píše kód a druhej v něm hledá chyby nebo k němu píše testy atd.)

Pouzitie spravneho modelu je dolezite jednak pre spravnost riesenia a jednak pre efektivitu. Nebudes predsa kreslit obrazky pomocou LLM. Jasne, urcite zvladne vygenerovat text co bude funkcne PNG, ale nebude to to v co si dufal. Ale je to v pohode, pretoze tu bude nejake AI, ktore to rozhodne za teba, lebo to bude vediet lepsie ako ty.

tak NECHÁPU, ale fakt absolutně NECHÁPU

A takto vznika ten strach a xenofobia, kde ludia personifikuju nastroj a idu proti nemu viest svatu vojnu.

ale fakt absolutně NECHÁPU, jak něco takovýho má být schopný škálovat na ty vyšší stovky miliónů (???) uživatelů, který by velký AI systémy v té zářivé budoucnosti, kdy nám sice AI všem vezme práci, ale my díky tomu konečně budeme moct dělat to, na co jsme se celou tu dobu těšili, měly mít

Ja velmi nechapem tu vetnu skladbu. Ale skalovat sa to da pomocou pocitacov. Bud osobnych alebo lokalnych servriv, alebo obrovskych datacentier. Beep boop boop...

[Antharon]

Vieme nejak kvantifikovat aky je globalny dopad AI centier v porovnani s distribuovanym dopadom vsetkych uzivatelov Officu alebo Windowsu?

[York]

Já když kolem vidím, jak lidi popisujou všechny ty svoje setupy, agentic workflows, harnessy a nevimcoještě (většinou složený z NĚKOLIKA modelů, protože se navzájem cross-checkujou, jeden píše kód a druhej v něm hledá chyby nebo k němu píše testy atd.) tak NECHÁPU, ale fakt absolutně NECHÁPU, jak něco takovýho má být schopný škálovat na ty vyšší stovky miliónů (???) uživatelů

Byly doby, kdy se počítače obsluhovaly přepínáním desítek kabelů mezi různejma zdířkama. Pak přišel obrovskej pokrok - děrný štítky! NECHÁPU, jak něco takovýho mělo bejt schopný škálovat na vyšší stovky miliónů (???) uživatelů!

v zářivé budoucnosti, kdy nám sice AI všem vezme práci, ale my díky tomu konečně budeme moct dělat to, na co jsme se celou tu dobu těšili

Pokud nezměníme model fungování společnosti, tak budeme všichni nevolníci ve službách technofeudálních lordů, ať už s AIčkem nebo bez něj. Pořád je ale lepší bejt doživotní wage-slave dneska, kdy máš doma teplou vodu, elektrický osvětlení a instantní zábavu po stisknutí tlačítka, než ve středověku s bolavejma zubama třít bídu s nouzí.

nárust spojený s dalšími věcmi, jako je změna paradigmatu v obecném pojetí práce jako takové a její automatizace ve velkém měřítku pomocí AI místo tradičních programů a skriptů

Za povšimnutí stojí, že automatizace, tedy ty programy a skripty, nevedla k tomu, že je práce míň. Nevím, jak tví šéfové, ale ti mí si v pohodě dokážou vymyslet bejkárny, na kterejch úplně zbytečně zabiješ mraky času, skriptování nebo ne. AIčko by mohlo v konečnym stádiu zvládnout zastat i tu zbytečnou práci, ale k tomu máme ještě daleko, takže zatím v klidu.

[Fafrin]

Mne nejde teraz o tom kde AI "šetrí" peniaze (samozrejme že v prvom rade pre vlastníkov biznisov a veľké korporácie). Prevádza AI a AI datacentier má obrovské energetické a environmentálne (a sociálne) náklady/ dopady - voda, pôda, emisie, elektrina, (elektro)odpad atď atď. Nech sa na to pozerám ako koľvek, nevidím ich opodstatnenie. Jednak sú oveľa podstatnejšie veci do ktorých urgentne potrebujeme dávať zdroje a venovať im prioritu. Plus vidím kto tlačí veľké AI korporácie a akú agendu tlači - v lepšom prípade sú tito ľudia bondovský villains.

Aj keď imo, to je druhá vec, že čo sa bude diať keď príde k masovým prepúšťaniam kvôli AI - bez toho aby boli vytvorené iné pracovné a životné príležitosti pre ľudí. No nie že čo bude, ono už tam postupne smerujeme.

Ok, ale toto nie je k AI ilustráciám v RPG, ale o AI všeobecne.

Priklad ktory som pisal je ekonomicko-ekologicky vyhodnejsi, nez bezny pristup. Bezi na lokalnom servri, takze nemas ziadne (vymyslene) naklady na megaservrovne a obdovsku spotrebu vody (wtf? Voda sa da spotrebovat?) mas jeden pocitac sice so silnym vykonom ale stale mnohonasobne mensim ak to porovname s pocitacmi teamu.

Masove prepustanie kvoli AI uz v IT zazivame nejaku dobu. Nie je take hlasne ako v pripade umelcov ale definitivne existuje. Logika hovori, ze ak ludstvo kvoli AI strati miliardu pracovnych miest, ktore moze robit AI, dava zmysel, ze legislativa na to odpovie zdanenim, zvysi sa zivotna uroven a ludia sa budu moct venovat veciam ktore ich bavia. Umeniu, remeslam, vychove deti.

Vážený pane. Takhle naše ekonomika bohužel aktuálně nefunguje. Kdy se naposledy zkracoval pracovní týden? Vlastnící třída nám fakt nic dobrovolně z těch úspor nepustí.

(Jinak globální změn klimatu v tuto chvíli vyřešená není a paseku, kterou nám ve fungování společnosti udělali algoritmické sociální sítě zatím stěží začínáme chápat. Ale hej, přihoďme další.)

[Cor]

LokiB: pokud jsi to četl vícekrát a tohle je to, co sis z toho odnesl...krčím rameny...tady AI určitě žádné škody nenapáchá.

Logika hovori, ze ak ludstvo kvoli AI strati miliardu pracovnych miest, ktore moze robit AI, dava zmysel, ze legislativa na to odpovie zdanenim, zvysi sa zivotna uroven a ludia sa budu moct venovat veciam ktore ich bavia. Umeniu, remeslam, vychove deti.

A ty věříš, že to ta legislativa opravdu udělá a efekty budou opravdu takové, že se zvýší životní úroveň a lidi se budou moct věnovat věcem, co je baví?
V tomhle jsem teda spíš pesimista a na to, že nás AI "přivede do ráje" nevěřím.

Spíš se obávám těch ("kolaterálních", "nevyhnutelných" etc.) škod ("ve jménu pokroku vyššího dobra") a jejich dopadu na obyčejné neprivilegované lidi a ceny, kterou za to kolektivně a v dlouhodobém měřítku zaplatíme jako druh a civilizace.
Takže celkem chápu postoj jaký má Iwar a Fafrin...ačkoliv se zároveň, podobně jako York nebo LokiB domnívám, že to jen těžko může něco zvrátit a zastavit, protože vidina přínosů je silná a historicky vzato, lidstvo obvykle volilo cestu za "přínosy na obzoru" bez ohledu na následky.

[Passingby]

...vidina přínosů je silná a historicky vzato, lidstvo obvykle volilo cestu za "přínosy na obzoru" bez ohledu na následky.

To mi připomíná starý vtip o tom, že obzor je ta část krajiny, která se vzdaluje tak rychle, jak rychle se k ní blížíme.

Mimochodem, jak jste si užili nedávný 35+°C vedra? Stačí zapnout klimu a vyřešeno, ne? Easy peasy.

[Antharon]

Vážený pane. Takhle naše ekonomika bohužel aktuálně nefunguje. Kdy se naposledy zkracoval pracovní týden? Vlastnící třída nám fakt nic dobrovolně z těch úspor nepustí.

Vážení páni. Keby som nemusel sám živiť trojčlennú rodinu, plus hypotéku, už by som dávno fungoval na štvordňový pracovný týždeň. Ostatne ja si tie plusminus tri dni neplateného voľna každý mesiac aj tak beriem. Nehnevajte sa na mňa, ale pindať a hľadať spoločného nepriateľa je jednoduché.

Ukazuješ tu fakt teraz prstom na to kedy sa naposledy skracoval pracovný týždeň? Seriózne? Koľkokrát v histórií sa skrátil pracovný týždeň? Za to, môže AI?

Zmrzlina bola pred AI krémovejšia?