AI a společnost

[Pieta]

Akorát že tomu Markusovi se stane, pokud by se mu to snad doteď nějakou náhodou nedělo, že jeho další překlady budou krmit nějaký další stroj, co bude usilovně pracovat na tom, aby Markus mohl být placený jen 20%, 10%, atd.

Což si myslím, že třeba v příkladech IKEA nebo Baťa moc nemá ekvivalent, pokud se to člověk nebude snažit dost násilně natahovat. Tam pořád ještě bylo třeba platit lidi, co na těch strojích pracovali, a Baťa nechodil těm zbylým samostatným ševcům koukat přes rameno, jak by si sestavil linku zrovna i na ty jejich boty.

To v ramci ľudského uvažovania nie je žiadna novinka. Spomeň si, ako pred 25 rokmi všetci juchali, že nemusia platiť za kino a CD-čka, lebo majú "kvalitné" ripy z internetu...

To samozřejmě, a v tom ani já nejsem nevinný; ale pořád mám dojem, že tam to pořád bylo spíš na úrovni hurá, ušetřím; zatímco teď sleduju lidi kolem, co mají vyloženě osobní radost z toho, jak konečně nemusí platit ty zatracené umělce/překladatele/juniorní programátory/matematiky ani ne tak proto, že to ušetří, ale jako by už dávno měli problém s tím, že si takoví lidé vůbec dovolí říct o peníze za svou práci, a teď jim to konečně mohli spočítat...

[Markus]

Markus je z AI poměrně nadšený, protože díky AI může udělat víc práce a vydělat si víc peněz. Markusem bude protékat víc textů a pro zákazníky budou překlady levnější – jinými slovy Markus udělá za jeden pracovní den víc překladů, které sice budou na jednotku textu levnější, ale v celkovém úhrnu mu za den vydělají víc. Což s trochou štěstí povede třeba k tomu, že si budete moct přečíst víc RPGček v čeština.

Teda ne „může“, ale „bude moct“. Jednou. Možná. Teoreticky. Zatím je to ale furt pořád bída, AI si s překladem moc neví rady a zvýšení produktivity překladu tam sice je, ale zatím se pořád pohybujeme v dost nízkých procentech.

EDIT:

Akorát že tomu Markusovi se stane, pokud by se mu to snad doteď nějakou náhodou nedělo, že jeho další překlady budou krmit nějaký další stroj, co bude usilovně pracovat na tom, aby Markus mohl být placený jen 20%, 10%, atd.

Naštěstí stroje jsou krmeny nejen Markusovými texty, ale i texty jiných, horších překladatelů, takže se sice učí překládat, ale učí se to dělat blbě. A co je ještě vtipnější, velká většina těch textů, na kterých se to ty stroje učí, jsou jenom špatně zeditované texty vygenerované stroji, takže se stroje dostávají do vtipné učící smyčky, kdy se učí samy na sobě a na jiných blbých předlohách a donekonečně propagujou svoje chyby a neumětelství. Markus je velmi skeptický k tomu, jestli tohle dokážou překonat.

[Pieta]

Teda ne „může“, ale „bude moct“. Jednou. Možná. Teoreticky. Zatím je to ale furt pořád bída, AI si s překladem moc neví rady a zvýšení produktivity překladu tam sice je, ale zatím se pořád pohybujeme v dost nízkých procentech.

Nebyl jsi to ty, kdo hlásil, že zlepšení v nízkých procentech, ale pokles plateb per objem zdůvodněný AI ve vysokých procentech?

[Markus]

Někde jsem o tom psal, nechci to dohledávat. Ale tam záleží na konkrétních příkladech. Je to prostě balancování čísel mezi nárůstem produktivity a poklesem sazby. Mám štěstí být na projektech, kde se tyhle čísla vybalancují tak, že si díky tomu vydělám víc, ne míň.

Určitě existujou místa, kde si překladatel vydělá míň... jenomže to pak nakonec povede k odchodu těch překladatelů, klidně do úplně jiných oborů, kde si vydělají líp (nedávno s tím takhle sekl jeden kolega). Což nakonec pro klienta znamená, že má sice levné AI překlady, ale mizerné a nemá nikoho, kdo by z nich udělal dobré. Otázka za milion je, jestli to tomu klientovi vadí.

[Pieta]

Určitě existujou místa, kde si překladatel vydělá míň... jenomže to pak nakonec povede k odchodu těch překladatelů, klidně do úplně jiných oborů, kde si vydělají líp (nedávno s tím takhle sekl jeden kolega). Což nakonec pro klienta znamená, že má sice levné AI překlady, ale mizerné a nemá nikoho, kdo by z nich udělal dobré. Otázka za milion je, jestli to tomu klientovi vadí. :)

Ok, to jsem to pochopil trochu jinak.

A nejsou tohle teda ty klasický externality, co (obecně) padnou na všechny, totiž že kvalita překladů půjde dolů a překladatelů schopných s tím něco dělat ubude?

[Markus]

To se přesně stane. Pokud mě něco trochu děsí, pak to není to, že by se AI dostala na moji úroveň, ale to, že se ukáže, že lidi vlastně dobré překlady nechtějí a nejsou za ně ochotní platit. To je můj reálný doomsday scenario, na rozdíl od nepravděpodobného "AI mě dožene".

Teda zrovna já o sebe obavy nemám, já si asi vždycky najdu nějaký teplý místečko s dobře placenou prací pro dobrého překladatele (jsou místa, kde ta poptávka nezmizí), ale mnozí jiní takové štěstí mít nemusejí.

Na druhou stranu mi zase hraje do karet, že už se nikdo nový překládat nenaučí.

[Pieta]

Na druhou stranu mi zase hraje do karet, že už se nikdo nový překládat nenaučí. :)

No právě, no.

Pár měsíců zpátky jsem se připletl k nějakému rozhovoru, kde někdo řešil, že u nich ve firmě už juniory nenabírají, protože to jim všechno zastane AI. Odkud se vezmou senioři, to vlastně nikdo neví. Mám dojem, že to teď čeká strašně moc oborů.

[Passingby]

(Wait, kam zmizel Sirienův post? Jsem mu zrovna chtěl napsat, že nářků nad tím, jak se příručky bez obrázků neprodávají a jaká je to diskriminace autorů, jsme si tu i onde mohli přečíst víc než dost On asi fakt nemá rád to odstřihávání debat a přesouvání z tématu do tématu...)

Pro zajímavost které máš na mysli? Výcvik otroků nebo život v tradiční rodině to asi nebudou.
Ono se jak se dopředu nedá říct, co bylo užitečné, co bude užitečné, bez čeho se obejdeme. Ale život se ho odvíjí a společnost také.

Tady jsem myslel nejvíc cca toto:

• přesun výroby všeho možného (od elektroniky po oblečení) do Číny a JV Asie (asi nejvíc vidět na aktuální snaze USA vrátit aspoň část offshorovaného průmyslu zpátky do USA)
• redukce zemědělské výroby a potravinové soběstačnosti
• po těžbě černého a hnědého uhlí kvůli ekologii nikdo už brečet nebude, takže to jenom zmíním, ale počítat to nebudu
• a dala by se k tomu počítat i situace ve školství s občasnými "reformami," které odradí kvalitní učitele, takže celková kvalita jde dolů, ale to je spíš jenom moje dojmologie, z reálu moc info nemám (navíc školství asi dlouhodobě trochu tápe v tom, co a jak by vlastně mělo učit a poskytovat)

(pro jistotu: tohle už není odpověd Lokimu, ale obecné filozofování)

A ať je trochu sranda – neřešil přesně tohle už vousáč Marx ve svém Kapitálu? Já ho nečetl, a ani nejsem tak starý, abych to měl povinné. Že industrializace v tehdejší podobě znamenala přesun vlastnictví výrobních prostředků, takže když se dělníci nebudou bránit, přijdou o možnost prodávat svoji práci (a to jediné, co budou moct na trhu nabídnout, bude jejich čas, ale ne kvalifikace a zkušenosti) a stanou se z nich "meat proxies," co jenom obsluhují stroje (však dneska se už taky neříká "dělník," ale "operátor")? Ta aktuální situace s několika málo velkými hráči, kteří vlastní, provozují a nabízejí velké modely (navíc masivně dotované, protože jinak by nebyly konkurenceschopné) mi to bohužel připomíná až moc, ale třeba mi to někdo rozmluví

[LokiB]

Pro zajímavost které máš na mysli? Výcvik otroků nebo život v tradiční rodině to asi nebudou.
Ono se jak se dopředu nedá říct, co bylo užitečné, co bude užitečné, bez čeho se obejdeme. Ale život se ho odvíjí a společnost také.

Tady jsem myslel nejvíc cca toto:

• přesun výroby všeho možného (od elektroniky po oblečení) do Číny a JV Asie (asi nejvíc vidět na aktuální snaze USA vrátit aspoň část offshorovaného průmyslu zpátky do USA)
• redukce zemědělské výroby a potravinové soběstačnosti
• po těžbě černého a hnědého uhlí kvůli ekologii nikdo už brečet nebude, takže to jenom zmíním, ale počítat to nebudu
• a dala by se k tomu počítat i situace ve školství s občasnými "reformami," které odradí kvalitní učitele, takže celková kvalita jde dolů, ale to je spíš jenom moje dojmologie, z reálu moc info nemám (navíc školství asi dlouhodobě trochu tápe v tom, co a jak by vlastně mělo učit a poskytovat)

Aha, to nejsou všechno příklady know-how, které by společnost zapomněla.
Redukce zemědělské výroby je velmi žádoucí ... lidská společnost kde 70 % lidí je nutných pro zajištění potravin, je strašně neefektivní. A nepamatuju se, kdy se to nevyplatilo.
Těžit černé i hnědé uhlí umíme, to se také nezapomnělo ... akorát se blázni rozhodli raději doly zatopit, aby to nešlo nikdy použít. To není know-how, to je čistý zločin.

Takže ok, nejde o know-how, jde ti o změny ve společnosti. Může být. Ty probíhají neustále, a nikdy nejde říc, které jsou k lepšímu a které k horšímu "z dlouhoudobého pohledu".
Je dost dobře možné, že z pohledu tisíciletí se ukáže, že možnost rozvodu je pro společnost destruktivní. Vyloučit se to nedá.
stejně tak je možné, nikoli jisté, ale možné, že je pro společnost destruktvní povolení stejnopohlavních manželství.

ale nic z toho nebereme jako argument pro to, abychom o to nyní neusilovali a nezaváděli to ... i když si nemůžeme být jistí, jestli to v dlouhém běhu není změna k horšímu.

A není žádný důvod se na AI dívat jinak ... ano, může to být průser, ano někdo na to poukazuje (stejně jako u toho povolení rozvodů a stejnopohlavních manželství). Ale nemáme to jak "prokázat", než to nastane.
Takže jediná možnost, kterou společnost má, je, být připraven se dále adaptovat a případné negativní dopady korigovat. Jiná možnost fakt není. Snaha zastavit používání a rozvoj AI s poukázání na to, že to pro společnost může být destruktivní, je špatná cesta. Stejně jako by byla špatná cesta kdysi bránit rozvoji elektroinženýrství nebo rozšíření vynálezu dynamitu. A že obojí ve společnosti natropilo velké špatnosti.

(pro jistotu: tohle už není odpověd Lokimu, ale obecné filozofování)

A ať je trochu sranda – neřešil přesně tohle už vousáč Marx ve svém Kapitálu? Já ho nečetl, a ani nejsem tak starý, abych to měl povinné. Že industrializace v tehdejší podobě znamenala přesun vlastnictví výrobních prostředků, takže když se dělníci nebudou bránit, přijdou o možnost prodávat svoji práci (a to jediné, co budou moct na trhu nabídnout, bude jejich čas, ale ne kvalifikace a zkušenosti) a stanou se z nich "meat proxies," co jenom obsluhují stroje (však dneska se už taky neříká "dělník," ale "operátor")? Ta aktuální situace s několika málo velkými hráči, kteří vlastní, provozují a nabízejí velké modely (navíc masivně dotované, protože jinak by nebyly konkurenceschopné) mi to bohužel připomíná až moc, ale třeba mi to někdo rozmluví

Fun fact: Nikdy nebylo čtení Kapitálu obecně povinné, když jsi nestudoval VUML nebo katedru marxismu-leninismu

Máš pocit, že dělníci ve Škodovce se měli posledních 20 let špatně? Nebo že jsou na tom špatně stavební dělníci na stavbách?
To bylo furt "nechceme být montovnou Evropy" ... a co by jako ti dělníci měli jiného dělat?

Zajímavější jsou možné scénáře:

• Firmy provozující AI to nedají, bublina praskne, dotace dojdou a zdroj peněz vyschne. Co pak? Brutálně zdražit?
• Najde se technologie, která vezme velkým hráčům vítr z plachet. Dneska i SPARK notebook se 128 GB použitelné RAM za 125 tisíc může pořídit už skoro každý ... a je otázka jak rychle se i tohle bude vyvíjet, třeba na TB, nebo PB ... A budou open-source modely a free modely ... a co pak bude prodávat Open AI či Anthropic? Co budou dělat s těmi datovými centry za biliony?

Tedy vadí technologie AI, nebo spíš to, jak je to nyní na trhu rozdané? To jsou zcela rozdílné věci a mají velmi různý dopad na společnost.

[York]

Až na to kradení je to všechno pravda. Krádež je, když někdo o nějakou věc přijde a má ji někdo jinej. Tréninkem neuronky nikdo o nic nepřijde. Maximálně v přenesenym významu, že měl práci a uplatnění a už ji díky levnější konkurenci nemá, ale říkat tomu krádež je dost zavádějící.

Jak už jsem tady nadhodil a jak přidal spoustu příkladů ShadoWWW, historicky se opakovaně dělo, že pokrok a technologie lidi připravili o práci a donutili je učit se jiný věci, aby stále byli na trhu konkurenceschopní. A že jsme v důsledku přišli o know-how a o výstupy ruční práce. AIčko je horší v tom, že za nás bude přemýšlet, takže budeme díky tomu hloupější. A je "horší" v tom, že dřív nebo pozdějš bude dělat líp úplně všechno, takže pokud někdo rád ráno vstává na šichtu a večer se vrací totálně vyflusanej a frustrovanej z toho, že strávil den něčím, co vůbec nechtěl dělat, tak to má fakt blbý. A když nechám ironii stranou, tak blbý to maj i kreativní jedinci, kteří měli radost z toho, že spousta lidí ocenila výsledky jejich kreativity, a když měli štěstí, tak na tom navíc zbohatli a díky tomu měli větší přístup k omezený produkci čehokoliv než většina, která takový štěstí neměla. V AI budoucnost na tom nepůjde bohatnout, protože AIčko to udělá líp a levnějš, nebo protože se změní společenskej řád a nepůjde bohatnou vůbec.

Což mě dostává k tý druhý řadě problémů, tj. že lidi přicházej o zdroj příjmů. Jak už jsem taky mockrát podotknul, rapidní vědeckotechnologickej vývoj v posledních desetiletích je provázanej téměř nulovym vývojem společenskym. Není úplně nulovej, věci jako všeobecný volební právo jsou důležitý, ale ve srovnání s tím, co dávno mělo bejt, je to pořád žalostně málo. Patriarchát je sice oficiálně zrušenej, ale nezmizel z myšlení lidí a z výplatních pásek. Apartheid je zrušenej v Jižní Africe, ale vesele žije v Izraeli. Několik šťastlivců žije v nepředstavitelnym luxusu, zatímco stovky miliónů živořej na ulici nebo v chudobě. Mezinárodní právo platí jen pro ty, kdo nemaj dost atomovek a letadlovek. Demokracie není způsob společnýho rozhodování, ale nástroj legitimizace diktátorů a oligarchů. Spousta lidí musí dělat zbytečnou práci (třeba reklamu) a spousta lidí žije v bludu, že ta práce není zbytečná.

Za nic z toho nemůže AIčko. A nemůže ani za to, že přijít o práci, protože tu činnost společnost dokáže dělat levnějš a líp, je pro dotyčný existenciální problém. To je čistě společnejskej problém a existoval už před rozmachem LLMek. Takže ne, neraduju se z negativních věcí, který naše společnost sama sobě způsobuje. Jen uvádím na pravou míru, kdo za to může. AIčko nám fakt nenakazuje, aby v době, kdy dokážeme s prstem v nose vyprodukovat přebytek potravin pro všechny lidi na Zemi, stále lidi umírali hladem. Ani že si maj miliardáři kupovat politiky, kteří jim budou dělat zákony na přání.

[ShadoWWW]

Jednu věc dělat nikdy lépe nebude: rozhodování. Rozhodnutí (zákazníka, trhu, trendu) totiž nejde “vypočítat”.

[York]

- přesun výroby všeho možného (od elektroniky po oblečení) do Číny a JV Asie (asi nejvíc vidět na aktuální snaze USA vrátit aspoň část offshorovaného průmyslu zpátky do USA)
- redukce zemědělské výroby a potravinové soběstačnosti
- po těžbě černého a hnědého uhlí kvůli ekologii nikdo už brečet nebude, takže to jenom zmíním, ale počítat to nebudu
- a dala by se k tomu počítat i situace ve školství s občasnými "reformami," které odradí kvalitní učitele, takže celková kvalita jde dolů, ale to je spíš jenom moje dojmologie, z reálu moc info nemám (navíc školství asi dlouhodobě trochu tápe v tom, co a jak by vlastně mělo učit a poskytovat)

A ať je trochu sranda – neřešil přesně tohle už vousáč Marx ve svém Kapitálu?

Nevím, jestli to řešil Max, ale ano, tohle jsou všechno důsledky kapitalismu. Stejně jako spousta dalších věcí, včetně většiny válek za posledních několik desítek let. Kapitál se přesouvá tam, kde se dá vyrábět nejlevnějš, a samozřejmě čím horší podmínky pro lidi, tím levnější je výroba. Takže když nějaká oblast začne bohatnout, tak se zákonitě výroba přesune někam jinam. Není to úplně vždycky negativní, třeba v Číně se díky tomu milióny lidí dostaly z chudoby. Ale v USA díky tomu jiný milióny lidí přišly o práci, téměř zanikly celý města, řešíme díky tomu globální oteplování atd. Zároveň má kapitál tendenci ty špatný podmínky pro lidi vytvářet a udržovat, proto pořád existuje třetí svět a proto je v něm tolik válek a diktátorů. Oproti merkantilismu a kolonialismu se trochu změnily metody, ale výsledek je stále stejnej.

[Pieta]

Až na to kradení je to všechno pravda. Krádež je, když někdo o nějakou věc přijde a má ji někdo jinej. Tréninkem neuronky nikdo o nic nepřijde. Maximálně v přenesenym významu, že měl práci a uplatnění a už ji díky levnější konkurenci nemá, ale říkat tomu krádež je dost zavádějící.

Když někdo třeba napíše knihu a někdo jiný ji zkopíruje a bude ji sám prodávat, tak to je možná technicky plagiarismus nebo něco s intelektuálním vlastnictvím nebo tak, ale nemám problémy tomu říkat krádež, protože nejsem právník, ale normální člověk, co vidí krádež a tak tomu tak i řekne.

Jak už jsem tady nadhodil a jak přidal spoustu příkladů ShadoWWW, historicky se opakovaně dělo, že pokrok a technologie lidi připravili o práci a donutili je učit se jiný věci, aby stále byli na trhu konkurenceschopní.

A občas se to dělo tak, že někdo k tomu pokroku ukradl cizí nápady a práci - těch případů, kdy vynálezce vynalezl, ale investoři mu to ukradli, by se pěkných pár našlo. A v těchhle případech bych neměl problém říct, že ten pokrok probíhal podrazem, podvodem, možná i zločinně, rozhodně zcela nemorálně.

Něco jako AI, akorát že to automatizovalo celý ten proces kradení cizích nápadů a práce, místo aby to investoři museli dělat ručně.

Dělat z toho "pokrok jako vždycky" mi přijde, že strašně lacině přechází tu část, kde ten pokrok neprobíhá tím, že někdo vymyslel lepší technologii, ale tím, že někdo strojově bere cizí dovednosti a nápady a prodává je pod svou značkou. Pokrok to asi je, ale taky je to dost hnus, velebnosti.

[York]

Když někdo třeba napíše knihu a někdo jiný ji zkopíruje a bude ji sám prodávat, tak to je možná technicky plagiarismus nebo něco s intelektuálním vlastnictvím nebo tak, ale nemám problémy tomu říkat krádež, protože nejsem právník, ale normální člověk, co vidí krádež a tak tomu tak i řekne.

To, že to lidi chápou jako normální, je ale taky perverzní deformace naší společnosti, která nutí lidi na všem vydělávat, i když to pro společnost není přínosný. Když někdo zkopíruje knihu, tak má společnost dvě knihy. Nikdo o nic nepřišel, autorova kniha je dostupná většímu počtu lidí. Problém není v kopírování knihy, problém je v tom, že autor musí vytvářet artificial scarcity, aby se uživil.

Užitečný je vždycky podívat se na to očima někoho, kdo to dělá jako koníček. Když jsi nekomerční autor a někdo si zkopíruje a přečte tvoji knihu, tak je to přece super, proto jsi ji psal! Autor očividně dělá něco, co je pro ostatní přínosný, tudíž by mu měla společnost umožnit důstojně žít a dál to dělat, ne ho nutit nadávat svým čtenářům do zlodějů.

[Pieta]

To, že to lidi chápou jako normální, je ale taky perverzní deformace naší společnosti, která nutí lidi na všem vydělávat, i když to pro společnost není přínosný. Když někdo zkopíruje knihu, tak má společnost dvě knihy. Nikdo o nic nepřišel, autorova kniha je dostupná většímu počtu lidí. Problém není v kopírování knihy, problém je v tom, že autor musí vytvářet artificial scarcity, aby se uživil.

Užitečný je vždycky podívat se na to očima někoho, kdo to dělá jako koníček. Když jsi nekomerční autor a někdo si zkopíruje a přečte tvoji knihu, tak je to přece super, proto jsi ji psal! Autor očividně dělá něco, co je pro ostatní přínosný, tudíž by mu měla společnost umožnit důstojně žít a dál to dělat, ne ho nutit nadávat lidem do zlodějů.

Jako, bylo by to fajn, kdyby to tak s tím důstojným životem bylo, ale není, a AI rozhodně nepřispívá k tomu, aby to tak bylo, spíš naopak.

A pokud někdo vezme cizí práci a vyhlásí ji za vlastní, tak na vině může být společnost v širším horizontu, ale v užším horizontu je na vině dost jasně ten podvodník.