AI a společnost

[MarkyParky]

Já narážel spíš na etickou rovinu.

[Jerson]

Jako že AI zrovna Jersonovi nekecá? Cože?

Tak to tedy zhodnoť sám.

Kniha „Smrt a život amerických velkoměst“ (The Death and Life of Great American Cities, 1961) od Jane Jacobs⁠� je jedna z nejvlivnějších knih o urbanismu vůbec. A zároveň dost brutální útok na způsob, jakým se ve 20. století plánovala města.
Jacobs nebyla klasická akademička ani architektka. Byla novinářka a aktivistka z New Yorku. A právě proto ta kniha působí jinak — místo abstraktních teorií řeší, jak města skutečně fungují na úrovni ulic, obchodů, chodníků a lidí.
Hlavní myšlenka
Jacobs tvrdí, že modernistické plánování měst po druhé světové válce města ničí místo toho, aby je zlepšovalo.
Kritizuje hlavně:
masivní demolice starých čtvrtí,
oddělování funkcí města (bydlení zvlášť, práce zvlášť, obchody zvlášť),
široké silnice a auta jako prioritu,
sídlištní megabloky,
sterilní „moderní“ urbanismus.
Její hlavní protivník byl slavný urbanista Robert Moses, který chtěl přetvářet New York pomocí dálnic a obřích projektů. Jacobs v podstatě říká:
„Město není stroj. Je to živý organismus.“
A jo — dnes to zní skoro samozřejmě. V roce 1961 to byla revoluce.
Co podle Jacobs dělá město živým
1. Ulice plné lidí
Bezpečnost nevzniká primárně policií, ale tím, že jsou na ulici lidé.
Její slavný koncept:
„Eyes on the street“
tedy „oči na ulici“.
Když:
jsou v přízemí obchody,
lidé chodí pěšky,
někdo kouká z oken,
kavárny a provozy fungují celý den,
tak je čtvrť přirozeně bezpečnější.
Prázdné modernistické prostory podle ní vytvářejí izolaci a kriminalitu.
2. Smíšené funkce
Dobré město potřebuje mix:
bydlení,
práci,
obchody,
školy,
bary,
služby.
Když je čtvrť aktivní jen v jednu denní dobu, umírá.
Typický problém:
kancelářská zóna je večer mrtvá,
rezidenční satelit je mrtvý přes den.
3. Krátké bloky a hustota
Jacobs milovala:
malé ulice,
mnoho křižovatek,
chaotičtější pohyb lidí.
Nenáviděla superbloky a gigantické otevřené plochy.
Podle ní:
hustota ≠ problém,
špatný design je problém.
Tohle je mimochodem něco, co dnešní internet často obrací naruby.
4. Staré budovy mají hodnotu
Staré levnější domy umožňují existenci:
malých obchodů,
experimentů,
umělců,
začínajících podniků.
Když všechno nahradíš novou drahou výstavbou, vznikne sterilní prostředí jen pro bohaté firmy.
Tohle je dnes extrémně aktuální kvůli gentrifikaci.
Proč je ta kniha tak důležitá
Prakticky položila základy:
moderního urbanismu orientovaného na lidi,
walkable cities,
ochrany historických čtvrtí,
boje proti městům podřízeným autům.
Bez Jacobs by možná:
Manhattan vypadal víc jako dálniční uzel,
evropská centra byla víc rozbouraná,
dnešní debaty o „15minutových městech“ vypadaly úplně jinak.
Kritika knihy
Není to bez chyb.
Často se jí vytýká:
romantizace starých čtvrtí,
nedostatečné řešení chudoby,
ignorování systémového rasismu,
že některé její myšlenky nakonec pomohly gentrifikaci.
A taky: Mnoho developerů dnes používá „jacobsovský vzhled“ jen jako estetiku — kavárny, cihly, pěší zóny — ale bez dostupného bydlení. Takový urbanistický skin bez sociálního obsahu.
Jak ta kniha působí dnes
Překvapivě moderně.
Když dnes někdo mluví o:
městech pro lidi,
omezení aut,
živých ulicích,
komunitách,
veřejném prostoru,
tak často, i nevědomě, stojí na Jacobs.
Ta kniha je vlastně střet:
technokratického plánování shora vs.
organického života města zdola.
A upřímně — spousta současných měst pořád bojuje přesně ten samý konflikt.

[Jezus]

Jako že AI zrovna Jersonovi nekecá? Cože?

Jako že mu nekecá zrovna v té odpovědi, kterou dostal. Protože tak tvoje reakce v kontextu Jersonova příspěvku vypadala. Jako že AI Jersonovi lže a kdyby víc četl, tak to pozná.

[LokiB]

To je podstata nejen dnešních LLM, ale všech neuronovejch sítí včetně lidskýho mozku. Vždycky bude záležet na kvalitě učebních dat a vždycky budou neuronky dělat chyby. "Pravda" je a vždycky bude statistickej údaj. Můžeš zmenšovat statistickou chybu (například tím, že síť líp natrénuješ nebo že informaci několikrát ověříš), ale riziko chyby bude existovat vždycky.

Neuronky se holt musej dostat pod lidskou chybovost, do tý doby budou za nespolehlivý.

No ... není to imo stejné a nezáleží jen na kvalitě učebních dat. I když , chápu, jak to myslíš
Přesto to, že výstup může být obdobný, neznamená, že to "uvnitř" funguje stejně.
Komplexnost každého okamžiku lidského vědomí, ve kterém funguje a "generuje" výstupy je odlišná principem.
I když u LLM můžeš spoustu věcí pro ovlivnění výstupu řídit pre-promptováním a promptováním, tak princip, kterým si "vybavujeme" znalosti je jiný. On úkolem LLM není simulovat lidský mozek. A ani nebyla motivace ho tak tvořit.
I ten princip "chyb" je jiný.

Chybovost je problém, ale dá se s ní žít - a můžeš hledat způsoby jejího omezování. Větší problém je nevyzpytatelnost. žádný pre-prompt a prompt ti fundamentálně nezaručí, že výsledek bude "zásadní chyba".
Člověk dokáže snadno říc "to nevím". Relační databáze ti to také dokáže říc. Uzavřený byť dobře natrénovaný LLM ti to říc nedokáže.

[York]

I ten princip "chyb" je jiný.

Ne, princip je stejnej.

Představ si neuronovou síť natrénovanou na rozpoznávání bílý a černý barvy. Ta nikdy neudělá chybu, protože po natrénování můžeš vyzkoušet všechny kombinace vstupů (ty jsou v tomhle případě jen dvě) a ověřit, že dává správný výstupy. Interně je neurovnová síť deterministická, takže když dá správný odpovědi jednou, tak je dá vždycky (teda do okamžiku, než ji začneš dál trénovat, viz dále).

Jakmile tuhle neuronovou síť začneš trénovat na něco dalšího, tak se může stát, že přestane dávat správný výsledky ohledně bílý a černý bavy, protože každý nový trénování mění váhy u všech neuronů v síti, tedy i u těch, který jsi natrénoval dřív. Ideálně samozřejmě chceš, aby síť pořád dávala správný výsledky u černý a bílý a navíc i u něčeho dalšího - to je v zásadě možný, protože správnou odpověď na černou a bílou dostaneš od docela velkýho rozsahu vah. Tj. chceš neurony držet v tomhle rozsahu, ale zároveň je trochu upravit na další funkčnost.

Do určitýho počtu kroků můžeš po každym trénování ověřit, že na všechny kombinace vstupů síť pořád dává správný výsledky, ale velice rychle se dostaneš do stavu, kdy je možnejch kombinací toli, že to nejde v rozumnym čase stihnout. Takže trénuješ dál a doufáš, že jsi moc nerozbil to, co síť už uměla předtím. Je to jako postupně řezat nohy u stolu a doufat, že bude stát rovně - můžeš se ke správnýmu stavu přiblížit, ale bez možnosti změřit délky všech nohou se nikdy netrefíš přesně.

Tohle je, mimo jiný, taky fundamentální důvod, proč člověk zapomíná. Lidskej mozek se neustále trénuje, takže taky neustále přepisuje předchozí neurovnový spojení. Když budeš trénovat umělou neuronku, bude zapomínat taky. Taky to znamená, že jakákoliv síť, která se trénuje v průběhu používání, může začít blbě odpovídat na otázku, kterou předtím uměla zopovědět správně (tedy "udělat chybu"). A po dalším trénování si zase může "vzpomenout, jak to bylo správně", protože váhy u neuronů se od správnejch nězměnily moc, takže stačí zase malá změna, která je vrátí do "správnýho" rozsahu hodnot, případně se "chyba" může vykompenzovat změnou vah v jiný části sítě.

A ještě jedna věc: Z těchle důvodů člověk nikdy neví, jestli je něco správně nebo ne. Respektive stejně jako umělá neuronka si může bejt "jistej" správnou odpovědí, ale ve skutečnosti tu jistotu mít nikdy stoprocentně nemůže. Na rozdíl od umělý neuronky, která se mezi dvěma odpověďma netrénuje, se člověk může splést i u tý bílý a černý barvy, protože mezi každou dvojicí odpovědí mozek zpracovává obrovský množství signálů a ty ho přetrénovávaj.

[Argonantus]

Jerson: jezto jsem tu knihu kdysi cetl, je to velmi solidni shrnuti.

Vypichnul ych zejmena ideal satelitnich modernich obytnych bloku v zeleni, coz je k videni uz u julese verna a do nas to tloukli ve skole kazdy den a je to vlastne sidliste. A presne tohle kniha kritizuje a stavi proti tomu stredoveke mesto jako uplny opak
.

[Jerson]

Jerson: jezto jsem tu knihu kdysi cetl, je to velmi solidni shrnuti.

Děkuju. Doufám, že to Selhanovi bude stačit jako důkaz, že AI vždycky nelže, a připustí, že shrnutí od AI mohlo být pro mě užitečné.

[Jezus]

York: V zásadě souhlasím (byť já zrovna v tomhle moc kovaný nejsem), ale připadá mi, že se s Lokim bavíte o koze a o voze.

Respektive o specificky trénované neuronce a velkém jazykovém modelu (LLM).

[LokiB]

I ten princip "chyb" je jiný.

Ne, princip je stejnej.

Představ si neuronovou síť natrénovanou na rozpoznávání bílý a černý barvy. Ta nikdy neudělá chybu, protože po natrénování můžeš vyzkoušet všechny kombinace vstupů (ty jsou v tomhle případě jen dvě) a ověřit, že dává správný výstupy. Interně je neurovnová síť deterministická, takže když dá správný odpovědi jednou, tak je dá vždycky (teda do okamžiku, než ji začneš dál trénovat, viz dále).

Zkus si nejdřív ujasnit, co myslíš tím "natrénovanou na rozpoznávání bílý a černý barvy". Tak jak o tom píšeš, v tom máš hokej.

Rozpoznávání bílé a černé v řeči AI znamená, že jejím VÝSTUPEM bude vždy rozhodnutí "je to bílé" nebo "je to černé".
Ale nikdy nemůžeš vyzkoušet všechny kombinace VSTUPŮ, protože reálných VSTUPŮ je spočetné nekonečno.

Když jí dáš svoji fotku ve tmě, může o ní (při tomto natrénování, které jsi použil) říc "je to černé" ... když jí dáš svoji fotku u žluté stěny ... dá ti nejspíš odpověď "je to bílé" (protože to odpovídá tvému popisu toho, jak jsi natrénoval - rozpoznávat bílou a černou, nic jiného).

jestli je interně AI neuronová síť deterministická, je akademická otázka, protože vstup není nikdy "stejný".
Když položím lokální LLM x krát úplně stejnou otázku, dostanu X různých odpovědí, které nejsou stejné. Právě proto, že deterministický není ...

Viz minulý dotaz na lokální LLM gemma3:12B s totožnou otázkou a nový výstup (srovnej to předchozím výstupem)
Najdeš tam společné prvky, ale také úplně odlišné fundamenální odchylky.
Jestli je, nebo není "technicky deterministická" je akademická otázka, v praxi deterministická není, dává na opakovaně stejné vstupy velmi odlišní výstupy (které jsou si "podobné")

====
Kdo je Jerson?

Jerson, pravým jménem Jan Bělík, je významná a respektovaná postava české RPG (role-playing games) scény. Je známý především jako designér a vývojář her. Jeho tvorba se soustředí především na horror a dark fantasy.

Klíčové body a aktivity:

Vývojář her: Jerson je hlavně známý pro tvorbu herních systémů a světů. Nejvýznamnější je jeho hra "Blackout RPG".
Blackout RPG: Jedná se o hororovou RPG hru se specifickým, velmi atmosférickým a depresivním systémem. Hra se zaměřuje na psychologický horor, vyšetřování a přežití v temném, dystopian světě. Je uznávaná pro svůj originální přístup a náročnost.
Další hry a projekty:
"Pevnost" - survival horrorová RPG
"Krvavé Zázraky" - hra inspirovaná Lovecraftem
Spolupracoval na tvorbě příležitostných her a příběhů pro různé RPG systémy.
Publikování: Hry od Jersona jsou často publikovány online, zdarma nebo za nízký poplatek.
Komunita: Jerson je aktivní v online komunitách hráčů RPG. Sdílí informace o svých projektech, diskutuje s hráči a reaguje na jejich zpětnou vazbu. Je vnímán jako přístupný a ochotný.
Styl a filozofie: Jersonova tvorba je charakteristická propracovaným světem, komplexním a poněkud náročným systémem, silnou atmosférou a zaměřením na psychologický horor. Často se jeho hry zabývají těžkými tématy a kloubí prvky realismu s prvky fantastiky a hrůzy.
Vizuální styl: Jerson se také podílí na vizuální stránce svých her, často vytváří ilustrace a grafiku, které doplňují atmosféru a kontext hry.
Vliv: Jerson je považován za jednoho z inovativních a respektovaných tvůrců na české RPG scéně. Jeho hry a přístup k designu inspirovaly mnoho dalších tvůrců a hráčů.
Kde najít více informací:

Webové stránky a blog: Jerson má vlastní webové stránky a blog, kde sdílí informace o svých hrách a projektech: https://jerson.cz/
RPG.cz: Na RPG.cz najdete recenze a články o jeho hrách: https://www.rpg.cz/clanek/2736-jerson-c ... tvorbe-her
Facebook: Můžete ho najít i na Facebooku, ale ne vždy je aktivní.
Online fóra a komunity: Jerson je aktivní v různých online RPG komunitách.
Závěr:

Jerson (Jan Bělík) je klíčová postava české RPG scény, známá především pro svůj hororový a dark fantasy design her, zejména pro Blackout RPG. Je ceněný pro jeho inovativní přístup, propracované světy a silnou atmosféru. Pokud máte rádi hororové RPG hry s komplexními systémy a temným světem, rozhodně byste měli prozkoumat jeho tvorbu.

[LokiB]

Do určitýho počtu kroků můžeš po každym trénování ověřit, že na všechny kombinace vstupů síť pořád dává správný výsledky, ale velice rychle se dostaneš do stavu, kdy je možnejch kombinací toli, že to nejde v rozumnym čase stihnout. Takže trénuješ dál a doufáš, že jsi moc nerozbil to, co síť už uměla předtím. Je to jako postupně řezat nohy u stolu a doufat, že bude stát rovně - můžeš se ke správnýmu stavu přiblížit, ale bez možnosti změřit délky všech nohou se nikdy netrefíš přesně.

Tohle je, mimo jiný, taky fundamentální důvod, proč člověk zapomíná. Lidskej mozek se neustále trénuje, takže taky neustále přepisuje předchozí neurovnový spojení. Když budeš trénovat umělou neuronku, bude zapomínat taky. Taky to znamená, že jakákoliv síť, která se trénuje v průběhu používání, může začít blbě odpovídat na otázku, kterou předtím uměla zopovědět správně (tedy "udělat chybu"). A po dalším trénování si zase může "vzpomenout, jak to bylo správně", protože váhy u neuronů se od správnejch nězměnily moc, takže stačí zase malá změna, která je vrátí do "správnýho" rozsahu hodnot, případně se "chyba" může vykompenzovat změnou vah v jiný části sítě.

A ještě jedna věc: Z těchle důvodů člověk nikdy neví, jestli je něco správně nebo ne. Respektive stejně jako umělá neuronka si může bejt "jistej" správnou odpovědí, ale ve skutečnosti tu jistotu mít nikdy stoprocentně nemůže. Na rozdíl od umělý neuronky, která se mezi dvěma odpověďma netrénuje, se člověk může splést i u tý bílý a černý barvy, protože mezi každou dvojicí odpovědí mozek zpracovává obrovský množství signálů a ty ho přetrénovávaj.

Podle mě nemáš pravdu, aspoň podle toho, jak rozumím argumentům, které používáš.

Na začátku aspoň rozlišujme LLM a neuronovou síť ... to není to samé. LLM má neuronovou síť jako součást, ale používá také další vrstvy a další možnosti

princip "způsobu uchování dat neuronové sítě"
princip "trénování neuronové sítě"
princip "fine-tuningu neuronové sítě"
princip "dotrénování neuronové sítě"
princip "LoRA adaptérů"
princip "tokenizace"
princip "RAG"
princip "filtrů"

To jsou jen části toho, co LLM používá ... a ne vše z toho má svůj obraz ve fungování lidského mozku, v některých případech jde o obdobný fenomén, ale s jinou funkčností a fundamentem.

klidně se na to AI zeptej ...

====
Chci, abys odpověděl jako mezioborový odborník na umělé neuronové sítě, výpočetní neurovědu, kognitivní neurovědu a biologii mozku.

Téma:
Srovnej fundamentální funkčnost umělé neuronové sítě používané v současné AI, zejména u velkých jazykových modelů, a biologické neuronové sítě v lidském mozku.

Nechci populární zjednodušení typu „AI funguje jako mozek“. Chci přesné, odborné, ale srozumitelné vysvětlení toho, v čem je podobnost skutečná, v čem pouze metaforická, a v čem jsou oba systémy zásadně odlišné.

Odpověď strukturuj takto:

1. Definice obou systémů
- Co je umělá neuronová síť z hlediska matematiky, architektury a optimalizace.
- Co je biologická neuronová síť z hlediska neuronů, synapsí, plasticity, dynamiky a tělesného ukotvení.

2. Základní podobnosti
- Vysvětli, v jakém smyslu oba systémy pracují se sítí jednoduchých jednotek, váženými spoji, aktivací, učením a emergentním chováním.
- Rozliš přitom inspiraci biologickými neurony od skutečné biologické věrnosti.

3. Zásadní rozdíly
Porovnej zejména:
- umělý neuron vs. biologický neuron,
- váhy v ANN vs. synaptická účinnost v mozku,
- backpropagation a gradient descent vs. biologická plasticita,
- statické inference vs. kontinuální dynamická aktivita mozku,
- digitální diskrétní výpočty vs. elektrochemické, analogově-dynamické procesy,
- model trénovaný na datech vs. organismus učící se tělesnou zkušeností,
- oddělení tréninku a inference u AI vs. průběžné učení a adaptace v mozku,
- energetická náročnost,
- robustnost, generalizace a práce s nejistotou.

4. Velké jazykové modely jako specifický případ
- Vysvětli, že LLM není „jen databáze“ ani „vědomý mozek“, ale parametrizovaná funkce naučená predikovat a generovat sekvence symbolů.
- Popiš rozdíl mezi predikcí dalšího tokenu a lidským porozuměním.
- Vysvětli, proč pravděpodobnostní generování textu může napodobovat některé projevy inteligence, ale nemusí znamenat stejný mechanismus jako lidské myšlení.

5. Biologický mozek
- Vysvětli, že mozek není pouze neuronová síť ve smyslu ANN.
- Zahrň roli glie, neuromodulátorů, těla, emocí, homeostázy, pozornosti, paměťových systémů, spánku, vývojového učení a senzomotorické smyčky.
- Popiš, proč lidské poznávání není pouze výpočet nad vstupními daty, ale součást regulace živého organismu.

6. Učení a „dotrénování“
- Porovnej fine-tuning, continued pretraining, LoRA/adaptéry, retrieval-augmented generation a kontextové učení u AI.
- Porovnej je s lidským učením, konsolidací paměti, synaptickou plasticitou a schopností začlenit novou zkušenost bez globálního přetrénování.
- Vysvětli problém catastrophic forgetting u AI a proč mozek funguje jinak.

7. Tabulka srovnání
Vytvoř přehlednou tabulku se sloupci:
- Vlastnost
- Umělá neuronová síť / LLM
- Biologická neuronová síť / mozek
- Povaha podobnosti či rozdílu

8. Závěrečné stanovisko
Odpověz jasně na otázky:
- Je umělá neuronová síť opravdu podobná mozkové?
- Je LLM pouze neuronová síť, nebo systém nad neuronovou sítí?
- Jsou současné AI modely dobrým modelem lidského myšlení?
- Kde je analogie užitečná a kde zavádějící?

Styl odpovědi:
- Odborný, přesný, analytický.
- Nepoužívej marketingové fráze.
- Nezjednodušuj do extrému.
- Urči, kde existuje vědecká nejistota nebo otevřená debata.
- Používej pojmy jako reprezentace, plasticita, dynamický systém, optimalizace, emergence, embedding, aktivace, synaptická váha, neuromodulace, embodied cognition, predictive processing, catastrophic forgetting.
- Každý odborný pojem krátce vysvětli.
- Pokud uvádíš sporné tvrzení, označ ho jako hypotézu, nikoli jako fakt.

[Argonantus]

Par testu odhalilo, ze zrovna se jmeny a identitou osob se AI plete zradne casto. Mne ztotoznil dobre, ale moji babicku si vymyslel dvakrat ruzne, postavu judr tomase prochazky rozdvojil a trva na tom, jersonovi se taky netrefuje do jmena. Jak slabne dozadu pamet internetu, tak klesa inteligence umele inteligence. Coz se dalo cekat.

[Jerson]

Kdo je Jerson?

Jerson, pravým jménem Jan Bělík, je významná a respektovaná postava české RPG (role-playing games) scény. Je známý především jako designér a vývojář her. Jeho tvorba se soustředí především na horror a dark fantasy.
...

Včera jsem viděl video, že prompt "Will Smith jí špagety" je prý neoficiální benchmark pro videa tvořená AI.
A přijde mi, jako by se prompt "Kdo je Jerson" stával benchmarkem pro AI výstupy v oblasti RPG.

[LokiB]

Kdo je Jerson?

Jerson, pravým jménem Jan Bělík, je významná a respektovaná postava české RPG (role-playing games) scény. Je známý především jako designér a vývojář her. Jeho tvorba se soustředí především na horror a dark fantasy.
...

Včera jsem viděl video, že prompt "Will Smith jí špagety" je prý neoficiální benchmark pro videa tvořená AI.
A přijde mi, jako by se prompt "Kdo je Jerson" stával benchmarkem pro AI výstupy v oblasti RPG.

Ano, s Willem Smithem se to ujalo.
Nezlobíš se? Nemyslel jsem to nijak zle ... bylo to v kontextu diskuse

[Argonantus]

Jezto se AI netrefila ani jednou, asi neni duvod se zlobit.

[LokiB]

ChatGPT-5.5 se trefil dost dobře