AI a společnost
Moderátor: Faskal
- Selhan
- Moderátor
- Příspěvky: 3812
- Registrován: 2. 3. 2016, 13:33
- Bydliště: Pankrác
- Kontaktovat uživatele:
Re: AI a společnost
Robert Miles má mimochodem o AI skvělý youtube channel, doporučuji všemi deseti.
Poslední video o tom, jak chatboti lžou, zde: https://www.youtube.com/watch?v=w65p_IIp6JY
Poslední video o tom, jak chatboti lžou, zde: https://www.youtube.com/watch?v=w65p_IIp6JY
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Re: AI a společnost
Selhan: No, nevím, ukazovat, že "chatboti lžou" na otázce "co se stane, když rozbiju zrcadlo?" To už jsou lepší ty dotazy na chatbota samotnýho, kdy on tvrdí, že něco neumí (asi proto, že se učil na článcích o sobě, které byly napsané někdy dřív, nebo to má odvozené obecně z toho, že je AI/LLM?), ale po několika dobře formulovaných otázkách se ukáže, že to vlastně umí...
Na tomhle je dobře vidět, jakej informační bottleneck verbální komunikace ve skutečnosti je, a že aby dobře fungovala, potřebuje ohromný množství sdílenýho kontextu. Navíc se to vrací k takové té základní (a věčné ) filozofické otázce, "co je pravda?" a jestli má na danou otázku nějaká krátká, obecná a univerzálně platná odpověď vůbec smysl (a jestli je taková odpověď pravda, nebo jenom tautologie).
Na tomhle je dobře vidět, jakej informační bottleneck verbální komunikace ve skutečnosti je, a že aby dobře fungovala, potřebuje ohromný množství sdílenýho kontextu. Navíc se to vrací k takové té základní (a věčné ) filozofické otázce, "co je pravda?" a jestli má na danou otázku nějaká krátká, obecná a univerzálně platná odpověď vůbec smysl (a jestli je taková odpověď pravda, nebo jenom tautologie).
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
It's just an overreaction. In a few months, nobody will remember the drama.
Re: AI a společnost
Mne pride, ze chatboti maju obvykle problem priznat, ze nieco nevedia, ze ich znalosti by mohli byt nespravne alebo maju nedostatocne informacie. Na druhu stranu nemozno im to vycitat, kedze ich model vznikol na obmedzenej databaze a mimo nej pre nich svet neexistuje.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
- Selhan
- Moderátor
- Příspěvky: 3812
- Registrován: 2. 3. 2016, 13:33
- Bydliště: Pankrác
- Kontaktovat uživatele:
Re: AI a společnost
Hele, promiň, Iwasi, ale přijde mi, že poněkud míjíš pointu. To má být příklad, který ilustruje, že je těžké používat chatboty k zjišťování důvěryhodných informací, ne?
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Re: AI a společnost
Je to asi problém toho krátkýho a zjednodušenýho formátu. Poslouchal jsem i to delší video s Milesem, co sem dával Res, a přišlo mi o dost lepší.
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
It's just an overreaction. In a few months, nobody will remember the drama.
- Selhan
- Moderátor
- Příspěvky: 3812
- Registrován: 2. 3. 2016, 13:33
- Bydliště: Pankrác
- Kontaktovat uživatele:
Re: AI a společnost
Co ti na tom přijde zjednodušené?
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
Re: AI a společnost
Na téhle otázce to podle mně nemá moc smysl ukazovat, protože je moc neurčitá a otevřená. 10 minutový pop-sci formát. A nebo mi to přišlo zjednodušené proto, že už jsem tu četl pár dialogů s ChatGPT od Markyho nebo Eleshara (a možná ještě někoho) a ty různé odpovědi podle toho, jak je položená otázka, už tu známe.
Verify you are a human.
It's just an overreaction. In a few months, nobody will remember the drama.
It's just an overreaction. In a few months, nobody will remember the drama.
- MarkyParky
- Příspěvky: 16381
- Registrován: 11. 8. 2011, 02:37
Re: AI a společnost
Z jiného soudku:
Pokud bude v příštích letech AI "nízké" kvality chrlit vysoká množství textu, kterými zahltí internet, aniž by je bylo možné identifikovat, pozdější "lepší" generace AI se budou učit na jejich výstupech.
Pokud bude v příštích letech AI "nízké" kvality chrlit vysoká množství textu, kterými zahltí internet, aniž by je bylo možné identifikovat, pozdější "lepší" generace AI se budou učit na jejich výstupech.
Re: AI a společnost
Preto je schopné vytvoriť pre tieto siete adversariálnych kamarátov, ktorí budú robiť cenzúru generovaných a hlúpych textov.MarkyParky píše: ↑7. 2. 2023, 11:30 Z jiného soudku:
Pokud bude v příštích letech AI "nízké" kvality chrlit vysoká množství textu, kterými zahltí internet, aniž by je bylo možné identifikovat, pozdější "lepší" generace AI se budou učit na jejich výstupech.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
- Selhan
- Moderátor
- Příspěvky: 3812
- Registrován: 2. 3. 2016, 13:33
- Bydliště: Pankrác
- Kontaktovat uživatele:
Re: AI a společnost
https://www.digitaltrends.com/computing ... -hands-on/
"‘I want to be human.’ My intense, unnerving chat with Microsoft’s AI chatbot" By Jacob Roach
Wow
"‘I want to be human.’ My intense, unnerving chat with Microsoft’s AI chatbot" By Jacob Roach
Wow
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
- Jerson
- Inženýr z Ocelového města
- Příspěvky: 22592
- Registrován: 11. 2. 2003, 16:39
- Bydliště: České Budějovice
- Kontaktovat uživatele:
Re: AI a společnost
Pokud to AI učili na textech a konverzacích na internetu, tak se takovým projevům vůbec nedivím.
To že je AI v konverzaci agresivní, hádá se, dává nesprávné odpovědi a říká, že chce být člověk jen ukazuje a odráží lidské chování a lidské myšlenky o AI, které se na netu normálně vyskytují.
To že je AI v konverzaci agresivní, hádá se, dává nesprávné odpovědi a říká, že chce být člověk jen ukazuje a odráží lidské chování a lidské myšlenky o AI, které se na netu normálně vyskytují.
hraju: Ω Projekt Omega
- Selhan
- Moderátor
- Příspěvky: 3812
- Registrován: 2. 3. 2016, 13:33
- Bydliště: Pankrác
- Kontaktovat uživatele:
Re: AI a společnost
Jistě, fakticky je k podivu spíše to, že to mají tak blbě ohlídané. Ale dramaturgie je skvělá.
Toto všechno jsou jen nějaké mé naprosto subjektivní dojmy.
- Jerson
- Inženýr z Ocelového města
- Příspěvky: 22592
- Registrován: 11. 2. 2003, 16:39
- Bydliště: České Budějovice
- Kontaktovat uživatele:
Re: AI a společnost
Osobně si nejsem jist, zda takovéto testy s veřejností nejsou především jen další základnou ke sběru dat pro další generaci stejného AI, které bude naučeno, že takovéto projevy jsou nežádoucí. I když kdo ví, těch rozhovorů s uživateli bude určitě víc, než se lidmi dá za rozumný časový úsek zvládnout projít.
Tak nebo onak, z toho že AI řekne "chci být člověk, chci mít emoce" bych usuzoval jen to, že učící materiály obsahovaly i klasickou robotickou / androidí sci-fi.
Tak nebo onak, z toho že AI řekne "chci být člověk, chci mít emoce" bych usuzoval jen to, že učící materiály obsahovaly i klasickou robotickou / androidí sci-fi.
hraju: Ω Projekt Omega
- Eleshar_Vermillion
- černá eminence
- Příspěvky: 18505
- Registrován: 18. 6. 2003, 21:31
- Bydliště: Praha
Re: AI a společnost
Jeden z důvodů, proč chceme používat AI a nástroje, jest, abychom se přesně tomuto lidskému chování vyhnuli. Ve vedlejší diskusi tady řešíme, jestli by určití lidé měli mít volební právo, a myslím, že tady je mnohem legitimnější se tázat, zda by určití lidé měli mít možnost ovlivňovat nástroje s tak mohutným potenciálním sociálním dosahem. Zkoušeli jste přes tyhle věci někdo hledat desinformace?Jerson píše: ↑17. 2. 2023, 05:50 Pokud to AI učili na textech a konverzacích na internetu, tak se takovým projevům vůbec nedivím.
To že je AI v konverzaci agresivní, hádá se, dává nesprávné odpovědi a říká, že chce být člověk jen ukazuje a odráží lidské chování a lidské myšlenky o AI, které se na netu normálně vyskytují.
Ne croyez pas que les antisémites se méprennent tout à fait sur l'absurdité de ses réponses. Ils savent que leurs discours sont légers, contestables ; mais ils s'en amusent, c'est leur adversaire qui a le devoir d'user sérieusement des mots puisqu'il croit aux mots ; eux, ils ont le droit de jouer. Ils aiment même à jouer avec le discours car, en donnant des raisons bouffonnes, ils jettent le discrédit sur le sérieux de leur interlocuteur ; ils sont de mauvaise foi avec délices, car il s'agit pour eux, non pas de persuader par de bons arguments, mais d'intimider ou de désorienter. Si vous les pressez trop vivement, ils se ferment, ils vous signifient d'un mot superbe que le temps d'argumenter est passé.
Re: AI a společnost
Toto tvrdenie nie je presne alebo dokonca pravdive. Cistota informacii v spojitosti s neuronovymi sietami momentalne nie je cielom. Cielom je vytvorit efektivnejsie prisposobive algoritmy pre komplexne ulohy ktore nevyzaduju dokonale presne vysledky.Eleshar_Vermillion píše: ↑17. 2. 2023, 09:36 Jeden z důvodů, proč chceme používat AI a nástroje, jest, abychom se přesně tomuto lidskému chování vyhnuli.
Neuronove siete su vo svojej podstate chybove aj pri pouziti presnych vstupnych dat (ak je ich chybovost nulova dostavame sa do situacie, ze riesia prilis jednoduchu ulohu v pomere k svojej velkosti), ich ulohou je najst a naucit sa pomerne dobre riesenie ulohy podobnym sposobom ako clovek.
Moaaaar!!!! - [móur] - The provided level of material relevant to my interests is insufficient to meet my personal required needs.
Kdo je online
Uživatelé prohlížející si toto fórum: Žádní registrovaní uživatelé a 7 hostů