Každodenní šílenství a bizár

[Antharon]

Ty jo, ale ja si skoro neviem predstaviť, že by akékoľvek AI kontrolujúce reaktor bolo horšie ako Ďatlov. A tomu dali do ruk jadrovú elektráreň minimálne dvakrát

[ilgir]

Na druhou stranu zase Ďatlov neměl v plánu vyhlait lidstvo.

[Antharon]

Na druhou stranu zase Ďatlov neměl v plánu vyhlait lidstvo.

To je dost generalizujuce az xenofobne tvrdenie voci AI vseobecne...

[Sosacek]

"Mas uplnou pravdu, rekl jsi mi, at ty tyce nevysouvam, ale stejne jsem to udelal. Moje chyba."

Antharone, ty ses fakt rozhodl, ze tu roli toho AI kultisty prijmes, nebo co? Je to cele sranda, a takhle fakt nepremyslis, ze ne?

Jezismarja, xenofobni vuci AI? Ty zapominas ze tvuj generator textu neni clovek nebo jina ziva, svet prozivajici bytost? LLM jsou vec, jak vuci ni muzes byt xenofobni?

... navic kdokoli, kdo neumi vysvetlit, proc by elektrarny melo ridit neco jineho, nez PID kontroler s extra vstupy, by se vybec nemel vyjadrovat, tvl.

[Jerson]

Nevím, zda jsem něco nepřehlédl, ale je někde uvedeno, že by ten fúzní reaktor měla řadit AI?
Protože to nedává moc smysl. Postupy pro jednotlivé stavy a operace musí být nastavené a zdokumentované tak, že by je zvládla řídící jednotka založená na elektronkách, a pro vlastní invenci nebývá příliš místa.
Tedy u atomových elektráren, nečekám, že by fúzní reaktor byl pro řízení zásadně odlišný.

[Jezus]

Ty jo, ale ja si skoro neviem predstaviť, že by akékoľvek AI kontrolujúce reaktor bolo horšie ako Ďatlov. A tomu dali do ruk jadrovú elektráreň minimálne dvakrát

Jaderný reaktor zatím vždycky řídili lidi a ti jsou pověstní pudem sebezáchovy (AI ne). Snad s výjimkou Černobylu, kde ho řídili prakticky Rusové...

...

Nevím, zda jsem něco nepřehlédl, ale je někde uvedeno, že by ten fúzní reaktor měla řadit AI?

To jsem nadhodil já, ale myslím, že jsem i vypíchl, že se o tom alespoň v případě jaderného reaktoru reálně neuvažuje. Byla to ode mě taková nadsázka (možná snaha o vědeckofantastickou diskusi ) ne snaha šířit paniku. (Doufám, že si za měsíc na internetech nepřečtu o tom, jak chtějí zapojovat AI do řízení jaderného reaktoru a jak se ti lidi zbláznili* ).

Tedy u atomových elektráren, nečekám, že by fúzní reaktor byl pro řízení zásadně odlišný.

Vycházel jsem z toho, že dosavadní největší problém jaderné fúze - teda pokud vím - je udržet tu magnetickou komoru. Respektive reagovat na chaotické změny plazmatu úpravou parametrů magnetického pole. To ti elektronky nedají. A vlastně ani dosavadní počítačové modely - alespoň ne dostatečně rychle. Naučit AI "předvídat" na základě dat chování plazmatu a reagovat úpravou magnetického pole dostatečně včas (v dostatečné kvalitě) je IMHO jedna z cest, jak reálně té komerčně únosné fúze dosáhnout.

A je tam jedna výhoda, jak správně podotkl Antharon - fúze se při "vymknutí kontrole" zastaví. Takže tam je prostor pro chyby AI větší (dokud to budeš komerčně tolerovat).

*) jak o tom teď uvažuju, tak se to myslím přesně stane. Až se začne psát o nasazení AI pro modely a řízení tokamaku, dočteme se poplašné komentáře o tom, jak AI bude řídit nový "Černobyl"

[Jezus]

Teda ještě jinak - neuvažuje se o tom v případě jaderného reaktoru. Alespoň o řízení ne, nějaké predikce opotřebení komponent turbín, čerpadel atd. na základě vibrací jsou věc jiná (ale to je věc, co se dělá už dlouho, jen bez AI to není moc efektivní).

V případě jaderné fúze je to naopak naprosto logické - jak píšu výše - a z té logiky pramenila má sci-fi výtka, že vlastně spojíš AI s nekonečným zdrojem energie.

A když jsem teď trochu "zagooglil" (respektive se na to zeptal AI asistenta, jestli není ta moje logika chybná), tak mi vyhodil, že ne. Že se o tom už reálně uvažuje a AI se právě na modelaci té magnetické komory zkouší. Jak říkám, naprosto logické...

[Antharon]

Ale ako si predstavujete celé to riadenie reaktoru AI? Myslíte si, že to bude robiť LLM? Lebo to znie dosť hlúpo. Jasné vycvičiť neurónku aby spracúvala vstupy z reaktora a dávala nejaké výstupy je úplne logické. Ale nie LLM

Sú aj iné druhy neurónových sietí. Pozrite sa ako funguje stockfish a ako funguje chatgpt ked maju hrat sach.

Tvrdenie, ze nuklearny reaktor riadia ludia je tiez nie velmi presne. Riadi ho prevazne automatizovany system a ludia do neho robia iba minimum zasahov.

[Eleshar_Vermillion]

Vycházel jsem z toho, že dosavadní největší problém jaderné fúze - teda pokud vím - je udržet tu magnetickou komoru. Respektive reagovat na chaotické změny plazmatu úpravou parametrů magnetického pole. To ti elektronky nedají. A vlastně ani dosavadní počítačové modely - alespoň ne dostatečně rychle. Naučit AI "předvídat" na základě dat chování plazmatu a reagovat úpravou magnetického pole dostatečně včas (v dostatečné kvalitě) je IMHO jedna z cest, jak reálně té komerčně únosné fúze dosáhnout.

Domníval bych se taky, že na tohle by postavili něco doménově specifického, ne že to bude řídit techbro přes svůj LLM.
Obecně si myslím, že by bylo dobré zavést si nějaké lepší terminologické rozdělení. "AI" označuje i sadu instrukcí pro počítač, jak má hrát Dunu 2. Tenhle případ je asi v pohodě a dá se zařadit pod expertní systémy, ale jinak se mi třeba líbilo mass-effectové rozdělení na "artificial intelligence" a "virtual intelligence", kde to posledně jmenované bych aplikoval právě na ty doménově specifické nástroje, které nebudou umět nic jiného než řídit fluktuace magnetického pole v tokamaku a tak.

[Jezus]

Domníval bych se taky, že na tohle by postavili něco doménově specifického, ne že to bude řídit techbro přes svůj LLM.

Domníval by se možná člověk, co nikdy nepracoval v korporaci. Jakmile to bude "pro ekonomické využití", začnou se dít věci...
"Vážně musíme tvořit něco in-house specifického? Nemůžeme využít něco, co už máme? Nebo tady je externí dodavatel, co tvrdí, že to udělá za půlku a ještě to bude fakturovat průběžně..."


Ale ne, vážně, máš samozřejmě naprostou pravdu. To jsou ty "drobné nuance"

Nápad s "virtuální inteligencí" je hezký, ale imho je to trochu arbitrární. Prostě máš specializovanou neuronku nebo nějakou obecnou. Ta specializovaná by se možná dala nazvat jako "algoritmické řízení vytvořené pomocí metody deep learning", ale výsledek je tentýž (vůbec do toho nevidíš)

[Argonantus]

Moje AI mi tvrdi, ze USA a Cina soutezi o ovladnuti superinteligence, ktera bude super proto, ze se bude sama vyvijet.

Pripada mi to mnohem vetsi bizar, nez ridit elektrarnu pres AI. Skoro mi pripada, ze by to mohlo mit nedozirne nasledky, je to pandorina skrinka a desivy precedens v jedom.

[Pieta]

Já bych elektrárny vibe-codil. Co by se mohlo pokazit?

[Sosacek]

Pieto, co to pises, ty jsi xenofobni vuci AI nebo co?

[Pieta]

Pieto, co to pises, ty jsi xenofobni vuci AI nebo co?

Já jsem vůči AI dokonce i rasista, sexista a ageista. Obzvlášť to poslední. Jak má AI míň jak 10 let praxe v oboru, tak mi do řídícího centra elektrárny nesmí.

[Eleshar_Vermillion]

Domníval bych se taky, že na tohle by postavili něco doménově specifického, ne že to bude řídit techbro přes svůj LLM.

Domníval by se možná člověk, co nikdy nepracoval v korporaci. Jakmile to bude "pro ekonomické využití", začnou se dít věci...

No to mě taky vzápětí napadlo. Proč budovat domain-specific nástroj, když máme Claude, že...