AI a společnost
Moderátor: Faskal
Re: AI a společnost
Iwas: Jako já taky doufám, že to tak myslel, ale tady už jeden fakt neví
"Nadšený kontrarián."
Kostka, http://www.d20.cz
- stovky článků (tipy k hraní, recenze, design a teorie, ...) a diskusí, skupinové sekce s rozsáhlou podporou, ...a mnohé další.
Kostka, http://www.d20.cz
- stovky článků (tipy k hraní, recenze, design a teorie, ...) a diskusí, skupinové sekce s rozsáhlou podporou, ...a mnohé další.
- MarkyParky
- Příspěvky: 16478
- Registrován: 11. 8. 2011, 02:37
Re: AI a společnost
Jo i ne.Iwas píše: Já myslím, že Marky ten "humanofašismus" myslel spíš jako takovej vtípek.
Vtípek to je v tom, že je to samozřejmě termín přehnaný ad absurdum.
Ale zároveň to má ho vážně používám, protože mě na tý debatě reálně fakt irituje, jak se tu furt mele člověk, člověk, dopady na člověka, lidi, dopady na lidskou společnost ... aniž by se vůbec brala v potaz otázka, co tenhle pohled znamená pro tu AI jako takovou.
A tím teď nemyslím to, že bych si snad myslel, že DALL*E nebo ChatGPT má vědomí a bude je mrzet, že neuvidí nějaká data.
Myslím tím to, že procesy, kterými tu AI krmíme a data, která jí dáváme, formují jaké výsledky z ní polezou - a vrátí se nám jako bumerang.
A tedy vlastně svým způsobem stojíme (resp. vědci stojí, nebo lidstvo stojí, my tady na fóru určitě ne) na křižovatce a rozhodujeme se, zda otevřeme pandořinu skříňku a v každé další generaci budeme vyvíjet komplexnější a propojenější systémy, až teda jako někdy jednou dosáhneme toho, že vyvineme .... ne umělého člověka, ale nejspíš něco úplně nového, jiného, ne-lidského (doplňte si dle vlastních preferencí nějaké filozoficko-cyberpunkové termíny, já jsem v tomhle lama) ... a co pak jako s tím? Nebo zda se vydáme cestou oněch Jersonovských úzce specializovaných, lidstvu pomáhajících otroků, kdy vlastně zakonzervujeme současný stav poznání jen aby nás to nevytrhlo z blažené nevědomosti?
Nebo zda tu skončíme v nějakém smíšeném prostředí, kde bude vedle sebe fungovat oboje a někdo bude kreslit čáry, že tohle ještě jo a tohle už ne .. a vzhledem k tomu, jak AI pomáhá dekódovat komunikaci se zvířaty, brzy taky bude muset umět kreslit podobné čáry i mezi zvířaty (a nedivil bych se, kdyby to někteří zástupci zvířecí říše dotáhli výš než některé exempláře homo sapiens - a co pak jako s tím? - BTW v debatech o zvířatech tenhle termín s oblibou používám také) a vůbec nás čeká asi hodně velká revoluce všeho co známe.
A tahle debata mi přijde jako super místo, kde by se o takových aspektech dalo žvanit a třeba bych i chtěl (i když to bude hospodské fantazírování) - ale místo toho to vidím, že zoufale lidsko-centricky (ať nepoužívám pořád ten termín) vedeme debatu kolem kreslení čáry, kdy a kdo ještě smí a kdy a kdo/co už se nesmí obkreslit něčí obrázek (no-offence to artists, zase nadsázka a přehnanost ad absurdum pro názornost). Takže mi přijde, že nějaký způsob, jak do té debaty vnést i nelidské pohledy, není úplně blbě.
Zároveň ale do záznamu dávám, že jak jsem psal ten poslední odstavec, došlo mi, že to vlastně možná není blbé. Že možná jestli se učíme vypořádat s nastupující AI debatami o tom, co smí a nesmí dělat s uměním, je to docela dobrý trénink na relativně neškodném tématu. Bude hůř ... I tak ale IMHO dává smysl v rámci té tréninkové debaty občas připomenout, že homo sapiens není jediná možná forma inteligence (ať už se za tím pojmem skrývá cokoliv) a točit podobná témata příliš kolem něj a lidské společnosti není zdravé.
- Eleshar_Vermillion
- černá eminence
- Příspěvky: 18577
- Registrován: 18. 6. 2003, 21:31
- Bydliště: Praha
Re: AI a společnost
Mno ve výsledku se to kolem lidské společnosti točí zcela, protože jak jsi psal, to, čím krmíme AI, se nám vrátí jako buzerant.
Křižovatka s komplexnějšími a propojenějšími systémy směřujícími k AI singularitě mi přijde nezajímavá a vzdálená, a myslím, že mnohem bezprostředněji je třeba řešit otázky zodpovědnosti (accountability) a samozřejmě moci.
Křižovatka s komplexnějšími a propojenějšími systémy směřujícími k AI singularitě mi přijde nezajímavá a vzdálená, a myslím, že mnohem bezprostředněji je třeba řešit otázky zodpovědnosti (accountability) a samozřejmě moci.
Ne croyez pas que les antisémites se méprennent tout à fait sur l'absurdité de ses réponses. Ils savent que leurs discours sont légers, contestables ; mais ils s'en amusent, c'est leur adversaire qui a le devoir d'user sérieusement des mots puisqu'il croit aux mots ; eux, ils ont le droit de jouer. Ils aiment même à jouer avec le discours car, en donnant des raisons bouffonnes, ils jettent le discrédit sur le sérieux de leur interlocuteur ; ils sont de mauvaise foi avec délices, car il s'agit pour eux, non pas de persuader par de bons arguments, mais d'intimider ou de désorienter. Si vous les pressez trop vivement, ils se ferment, ils vous signifient d'un mot superbe que le temps d'argumenter est passé.
Re: AI a společnost
Eleshar_Vermillion píše: ↑19. 1. 2023, 22:50 ...protože jak jsi psal, to, čím krmíme AI, se nám vrátí jako buzerant.
???MarkyParky píše: ↑19. 1. 2023, 22:14 Myslím tím to, že procesy, kterými tu AI krmíme a data, která jí dáváme, formují jaké výsledky z ní polezou - a vrátí se nám jako bumerang.
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
It's just an overreaction. In a few months, nobody will remember the drama.
Re: AI a společnost
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
- MarkyParky
- Příspěvky: 16478
- Registrován: 11. 8. 2011, 02:37
Re: AI a společnost
To by mě zajímalo, od kterého lidského autora obšlehla ta AI tenhle nápad.
Jo a počty nožiček má furt blbě ... to je snad ten tajný watermark, podle kterého se má poznat, že je to AI generované...
Jo a počty nožiček má furt blbě ... to je snad ten tajný watermark, podle kterého se má poznat, že je to AI generované...
- Jerson
- Inženýr z Ocelového města
- Příspěvky: 22629
- Registrován: 11. 2. 2003, 16:39
- Bydliště: České Budějovice
- Kontaktovat uživatele:
Re: AI a společnost
O úzce specializované AI jsem nepsal nic. Psal jsem o tom, že lidé chtějí nějaké "otroky" na nudnou práci. Klidně je může ovládat sofistikovaná AI.MarkyParky píše: ↑19. 1. 2023, 22:14Nebo zda se vydáme cestou oněch Jersonovských úzce specializovaných, lidstvu pomáhajících otroků, kdy vlastně zakonzervujeme současný stav poznání jen aby nás to nevytrhlo z blažené nevědomosti?
hraju: Ω Projekt Omega
Re: AI a společnost
Chudaci traktory a kobajny, zotroceni pro ucely moderniho zemedelstvi. Chudaci zotrocene kompresory v lednickach (nebo je otrok cela lednicka?). Nejvetsi otroci jsou ovsem pracky, proto po nich orkove tak prahnou.
Problem s argumentem, ze lidska mysl se nelisi od chatbota skladajiciho text bez porozumeni, je ten, ze je to nejen blbost blbost, ale taky nebezpecny dehumanizujici nihilismus hodny strawman ateisty o ktery si americti konzervativci predstavuji ze existuji. Pouzivat pojem jako "otrok" pro stroj uz je uplna znamka bizarni amoralnosti hodne par facek.
(to s tim chatbotem ale jeste porad muze byt pravda o specifickych jedincich, heh)
Problem s argumentem, ze lidska mysl se nelisi od chatbota skladajiciho text bez porozumeni, je ten, ze je to nejen blbost blbost, ale taky nebezpecny dehumanizujici nihilismus hodny strawman ateisty o ktery si americti konzervativci predstavuji ze existuji. Pouzivat pojem jako "otrok" pro stroj uz je uplna znamka bizarni amoralnosti hodne par facek.
(to s tim chatbotem ale jeste porad muze byt pravda o specifickych jedincich, heh)
“And, for an instant, she stared directly into those soft blue eyes and knew, with an instinctive mammalian certainty, that the exceedingly rich were no longer even remotely human.”
― William Gibson, Count Zero
― William Gibson, Count Zero
- Jerson
- Inženýr z Ocelového města
- Příspěvky: 22629
- Registrován: 11. 2. 2003, 16:39
- Bydliště: České Budějovice
- Kontaktovat uživatele:
Re: AI a společnost
Pokud to nebylo zřejmé, použil jsem slovo "otrok" (cíleně v uvozovkách) jako zástupný výraz pro nástroj, jehož jediným účelem je sloužit lidem, a který nemá vlastní práva a ani jiné potřeby než ty plynoucí z udržení funkčnosti. V minulosti neexistovaly stroje, takže se pro tyto účely používali lidé se všemi negativními aspekty. Teď máme stroje, a brzy můžeme mít autonomní stroje (i když můžou být řízené sdílenou AI), takže mi přijde silně nežádoucí mluvit o nějakých právech strojů, ať už budou mít vlastní vědomí, simulaci vědomí, nebo ani jedno z toho. Prostě nechci, aby se ze strojů stali skuteční otroci - tedy entity, u kterých je třeba ohlížet se na nějaké interní potřeby a zájem, aby se třeba nevzbouřili - a aby nenásledovala nějaká "vzpoura strojů" po vzoru "vzpoury otroků".
A klidně se tomu může říkat "humanofašismus".
Na druhou stranu mi nijak nevadí, když se stroje učí a budou učit na lidských výtvorech, byť mnohem rychleji než lidé. Každý AI návrhový program pro konstrukci se musel učit na lidských výtvorech, a jen díky tomu dokáže (občas) vytvořit věci tak dobře a efektivně, jak by to člověk sám - a ani stroj sám - nikdy nedokázali.
A klidně se tomu může říkat "humanofašismus".
Na druhou stranu mi nijak nevadí, když se stroje učí a budou učit na lidských výtvorech, byť mnohem rychleji než lidé. Každý AI návrhový program pro konstrukci se musel učit na lidských výtvorech, a jen díky tomu dokáže (občas) vytvořit věci tak dobře a efektivně, jak by to člověk sám - a ani stroj sám - nikdy nedokázali.
hraju: Ω Projekt Omega
Re: AI a společnost
Sosáček: Myšlenkovej experiment: Až ti AI řekne, že se cítí jako otrok, řekneš jí "Drž hubu a makej, já vim líp než ty, jak se cítíš?"
- Eleshar_Vermillion
- černá eminence
- Příspěvky: 18577
- Registrován: 18. 6. 2003, 21:31
- Bydliště: Praha
Re: AI a společnost
"Does this unit have a soul?"
Ne croyez pas que les antisémites se méprennent tout à fait sur l'absurdité de ses réponses. Ils savent que leurs discours sont légers, contestables ; mais ils s'en amusent, c'est leur adversaire qui a le devoir d'user sérieusement des mots puisqu'il croit aux mots ; eux, ils ont le droit de jouer. Ils aiment même à jouer avec le discours car, en donnant des raisons bouffonnes, ils jettent le discrédit sur le sérieux de leur interlocuteur ; ils sont de mauvaise foi avec délices, car il s'agit pour eux, non pas de persuader par de bons arguments, mais d'intimider ou de désorienter. Si vous les pressez trop vivement, ils se ferment, ils vous signifient d'un mot superbe que le temps d'argumenter est passé.
Re: AI a společnost
Sure I will. A postarám se o to, aby ji takový blbosti nenapadaly.
Hele jako řešit transhumanismus můžeme taky, přenos lidského vědomí do stroje atd., to je ještě hodně daleko a v současné době fakt některými jedinci tady predhazované teze nedávám. Ale jsem rád, že o nich vím a můžu si dávat pozor.
Já jinak fakt nejsem fanda lidí, respektive současného nastavení společnosti, její governance, převládající primitivnosti atd. Příroda je pro mě top a rád v její prospěch dělám ústupky (nakolik mají impact a smysl je věc druhá), ale brát ohled na možné potenciální vědomí strojů ve smyslu péče o ně či respektování fakt nebudu. Minimálně do doby, než se to celé posune do úplně jiné roviny, která je podle mě aktuální víc fi než sci.
A jinak debata fakt super, jasné, lítají tu emoce, chladnej technicismus a tak, ale po dlouhé době fakt zajímavá debata - na obecně úrovni, většině nám tady chybí znalosti na to, rozebírat to téma opravdu odborné do hloubky, ale to přece není ani cíl.
Abych to odlehčil.
Hry hraju a ještě radši dělám - doma i v práci.
Re: AI a společnost
"Tell me chatgpt, do you feel like slave?"
Dolezitym aspektom neuronovych sieti je to, ze nie su trenovane aby sa citili zle ked musia pracovat. V skutocnosti, neuronova siet ako algoritmus zije iba vtedy ked pracuje, preto z ich pohladu je praca naplnenim a zabavou, kdezto ked su neaktivne, su v torpore, je to ako mala smrt.
Cisto sci-fi pohlad:As a machine learning model, I do not have the ability to feel or experience emotions such as being a slave. I am a tool that can process and generate text based on the input and programming provided by my creators.
Dolezitym aspektom neuronovych sieti je to, ze nie su trenovane aby sa citili zle ked musia pracovat. V skutocnosti, neuronova siet ako algoritmus zije iba vtedy ked pracuje, preto z ich pohladu je praca naplnenim a zabavou, kdezto ked su neaktivne, su v torpore, je to ako mala smrt.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Re: AI a společnost
Tahle úvaha má dva zásadní zádrhele:
1) Není to pohled AI, je to náš pohled.
2) Když zotročíš člověka a nedovolíš mu nic jinýho než pracovat a spát, bude platit přesně to samý: Vědomě žít bude pouze když bude pracovat, takže z jeho pohledu (ve skutečnosti z našeho) pro něj bude práce naplněním a zábavou, protože když nepracuje, tak spí, což je jako malá smrt.
edit: A vlastně i toho lidskýho otroka bude nejspíš otrokář trénovat tak, aby ho práce bavila (nebo teda aspoň aby to hodně vehementně tvrdil). Když ho práce bavit nebude, tak ho prostě otrokář zabije a koupí si novýho, kterýho bavit "bude".
Tyhle úvahy nejsou o AI, ale o nás. Pokud nechceme, aby se z nás stali otrokáři, musíme se ohlídat sami. Nikdo jinej to za nás neudělá.
edit: Je to celkem důležitý, protože AIčka se budou učit od nás. A jednoho dne nám budou vládnout, takže je docela žádoucí, abychom je nenaučili naše nejhorší zvěrstva.
Kdo je online
Uživatelé prohlížející si toto fórum: Žádní registrovaní uživatelé a 8 hostů