Jaký máte názor? Podle mě je AI skvělý sluha, ale zlý pán. V práci dokáže neskutečně pomoci, najde rychle lepší řešení nebo chybu v kódu. Bezva, ale má to jen pozitivní stránky?
Zkusme se společně zamyslet a představit si možná úskalí. A co o tom "ví" AI?
Otázka pro AI: "Je AI zlo nebo budoucnost? Omez se na problém, že AI se bude učit sama od sebe, protože nedokáže rozeznat, co je fakt a co sama publikovala."
1. Cíl brainstormingu
Cíl: Pochopit potenciální rizika a výhody samoučící se AI, která může zaměňovat fakta s vlastním generovaným obsahem a jakým způsobem to může ovlivnit její rozhodování a činnost.
2. Specifické omezení
Omezení: Soustředíme se pouze na otázku rozpoznávání faktů versus vlastního generovaného obsahu.
3. Nápady a možností
Potenciální rizika
Šíření dezinformací:
Pokud AI nedokáže správně rozeznat, co je fakt a co je jejím vlastním generovaným obsahem, může šířit dezinformace nebo zkreslené informace.
Ztráta důvěryhodnosti:
Systémy AI mohou ztratit důvěryhodnost, pokud se zjistí, že jejich výstupy nejsou spolehlivé nebo jsou založeny na vlastních, zavádějících datech.
Reinforcement Bias:
AI může posilovat své vlastní chyby a zkreslení, pokud opakovaně trénuje na vlastních datech, což může vést k ještě větší chybovosti a zkresleným závěrům.
Možné výhody
Kontinuální učení:
AI, která se učí sama od sebe, může být schopna rychle se adaptovat na nové informace a změny v okolním prostředí.
Autonomní rozhodování:
Samoučící se AI může být schopna přijímat autonomní rozhodnutí rychleji a efektivněji, což by mohlo být užitečné v dynamických nebo krizových situacích.
Potenciální řešení problémů
Užívání ověřených zdrojů:
AI bychom mohli vybavit mechanismy, které by kontrolovaly validitu a důvěryhodnost zdrojů, na kterých se učí.
Oddělování tréninkových dat:
Jeden možný přístup by zahrnoval oddělení tréninkových dat AI od jejích vlastních výstupů, aby nedošlo k zpětnému ovlivňování.
Implementace kontrolních mechanismů:
Vyvinutí vnitřních kontrolních mechanismů a algoritmů, které by pomáhaly AI rozeznat, co je faktické a co je její vlastní generovaný obsah.
Průběžné shrnutí
Zatím jsme identifikovali několik hlavních rizik a výhod samoučící se AI a několik možných přístupů k řešení problémů s rozpoznáváním faktů versus generovaného obsahu.
Pokud se vyloučí obsah, který AI generuje a nebude se z něj dále učit, z čeho se bude učit, když v budoucnu bude většinu textu generovat právě AI?
To je skvělá a velmi důležitá otázka. Pokud v budoucnu většinu textu bude skutečně generovat AI, což je scénář, který mnozí odborníci předpokládají, jak zajistit, aby se AI měla z čeho učit? Pojďme brainstormovat nápady na tuto situaci.
1. Ověřené a kvalitní zdroje
Kurátorství obsahu:
Lidmi kurátorovaný obsah by mohl hrát klíčovou roli. Existence týmů nebo algoritmů, které vybírají a ověřují data, by mohla pomoci zajistit, že se AI učí z důvěryhodných a ověřených zdrojů.
Archivace důvěryhodných dat:
Historické archivy a databáze ověřených informací by mohly sloužit jako tréninková data pro AI. Například vědecké publikace, akademické články, vládní dokumenty a další.
2. Interakce s lidmi
Lidská spolupráce:
AI může průběžně spolupracovat s lidmi, aby získala zpětnou vazbu a opravy. Lidé mohou pomoci rozlišovat mezi fakty a generovaným obsahem.
Crowdsourcing informací:
Systémy jako Wikipedia, kde je obsah upravován a schvalován komunitou, mohou poskytovat kvalitní data pro samoučící se AI.
3. Hybridní přístup
Kombinace lidské a umělé inteligence:
Hybridní systémy, kde AI generuje obsah, ale lidé jej ověřují a zpětně informují AI, mohou zajistit, že AI má přístup k validním datům.
Validace a audit generovaného obsahu:
Vyvinutí algoritmů pro automatickou validaci obsahu. Například kontrolní mechanismy, které mohou flagovat nebo označit obsah, který je podezřelý nebo neověřený.
4. Specializované AI modely
Různé typy AI pro různá úkoly:
Specializované AI modely, které jsou trénovány na specifických druzích dat (např. právní dokumenty, medicínské články), by mohly být méně náchylné k problémům s generováním nerelevantních dat.
5. Pravidelná revize a aktualizace
Periodicita aktualizace dat:
AI by měly být pravidelně aktualizovány s daty z nových a ověřených zdrojů. To by mohlo zahrnovat i mechanizmy pro odstranění neaktuálních nebo sporných dat.
6. Regulace a normy
Mezinárodní standardy:
Vytváření a používání mezinárodních norem a regulací pro generovaný obsah a jeho užívání. Tato pravidla by mohla přispět ke kvalitě dat použitých pro učení AI.
Otevřené datové sady:
Podpora a rozvoj otevřených datových sad, které jsou důvěryhodné a pravidelně ověřované.
Průběžné shrnutí
Máme řadu nápadů, jak zajistit kvalitní zdroje pro samoučící se AI i v budoucnosti, kdy většinu textu generuje AI. Tyto přístupy zahrnují lidské kurátorství, spolupráci mezi lidmi a AI, specializované modely, pravidelnou aktualizaci dat a mezinárodní regulace.
0x
Položte si otázku,že čo je vlastne AL? Je to výtvor ľudskej mysle,ktorý si človek upravuje a vytvára pre svoj prospech. Položte si otázku. Ten kto ho vytvára ho vytvára pre svoj prospech alebo v prospech všetkých? Podľa toho aj on bude dobrý alebo zlý. Inak AL sa učí len z toho čo do neho niekto vloží. Pokiaľ tam sa nevloží to, čo je dôležité a je len v písomnej forme,tak AL sa tomu nemôže venovať. V skratke AL je sluha pánov a páni si myslím,že sa zabezpečia,aby sa nepostavila proti ním,no mimo pánov sa postaviť kľudne môže. A najväčším pokrokom,ktorý ľudstvo doviedlo v dokonalosti je vyrábať odpad-čiže spotrebný tovar, žeby to AL vytiahlo na vyšší level?
0x
. Za chvili clovek nebude vedet co je iluze a co je realita. To bude panecku chaos. Uz nyni je zretelne, jak se ty videa s ukradenou identitou vyvijeji kupredu. Nakonec skoncime zpatky u starych dobryh knih a po večerech budem hrat clovece nezlob se...a to se nebavime o nejakych systemech v infrastrukture.
0x
Admin si odpověděl správně, ale ještě bych to trochu rozvedl: AI je přesně ten příklad - podobně jako internet, mobilní telefony, atd., atp. - kdy je téměř nemožné "vynález" udržet v mantinelech dobrého sluhy a takřka zákonitě se z něj stane zlý pán. Proč? Protože ryzí podstata lidského ducha. 
0x
Dobrý den, bylo by fajn, kdyby sem napsal svůj názor na AI nějaký sklář, resp. jestli se on nebojí hladu 
. Zdravím!
Tak Bene, já jsem naprosto v klidu. Zadal jsem tomu AI otázku " jak vyrobit dvojčinný parní stroj ze skla" a napsalo mi to takové hovadiny, že v tomto oboru je celá AI k ničemu.
0x
Popravdě v ní vidím spíš extrémní množství negativ které pozitiva úplně zadupou do země.
Z těch pozitiv asi vidím jen to že některé vygenerované obrázky jsou fakt pěkné a některé modely jdou spouštět lokálně, k těm negativům:
1) Příšerný poměr spálené elektriky vs užitek který přináší, nemyslím že by se AI někdy mohla zaplatit až praskne její aktuální bublina. AI je moc drahá na nízkorizikové věci ale moc nepředvídatelná na ty vysokorizikové (protože halucinace)
2) Jestli něco zatím přinesla tak obrovské množství "AI slopu", bordelu, přes který se člověk musí probírat ve výsledcích vyhledávačů a článcích. Tohle je možná jenom můj problém, ale já totálně ztrácím zájem o článek jakmile jde poznat že to vyblil jazykový model. Čítaval jsem blogy od lidí kteří byly fakt na hodně špatné úrovni dyslexie a dysgrafie a kdo ví čeho ještě, ale ten článek měl alespoň "duši"a myšlenku. Teď ten člověk přešel na metodu "řeknu AI co si myslím a ona to napíše za mě". Výsledek je sice pravopisně správně ale úplně o ničem. A to nejsem v tomto případě nějaký moralista, kterému by vadilo zrovna nahrazení lidského elementu.
3) AI bude nevyhnutelně využita jako reverzní centaur - místo aby AI pomáhala člověku, bude člověk pomáhat AI protože jinak se věci neušetří ale prodraží. AI bude taky nevyhnutelně použita proti těm nejzranitelnějším - běžným lidem a dělníkům. Protože AI je nedokáže nahradit ale "dokáže"je "řídit"a "optimalizovat".
4) AI říká to co si myslí že chceš slyšet, ale většina lidí to bere jako nějakou autoritu a jako něco na co se dá spoléhat. To že jí lidi nerozumí není problém AI ale i tak je to problém který ji provází a je velmi otravný.
Internet už nikdy nebude jako dřív a jsem rád že jsem jej zažil bez toho.
0x
Tzv. AI je nastroj. Treba jako tuzka. Ani dobra, ani spatna. Muze byt uzitecna, kdyz se s ni umi zachazet. Jinak je k nicemu.
Muze byt pouzita ke dobrym i spatnym vecem. Jako kdyz se s tuzkou narysuje letadlo nebo napise Mein Kampf. V prvnim pripade to muze byt prospesne, ve druhem naopak.
Muze byt pouzita sikovne i nesikovne. Jako kdyz s ni kresli letadlo zkuseny kontrukter nebo ctyrlete dite. V prvnim pripade to letadlo zrejme poleti, ve druhem zrejme ne.
-
Lide jsou od prirody pohodlni. A to je dobre. Pouze diky tomu totiz mame technicky pokrok takovy, jaky zde je. Lide totiz nejsou lini vynalezat veci, ktere jim zjednodussi jejich zivot.
Az do dnesni doby se tyto vynalezy orientovaly hlavne na pohodli fyzicke. Nastroje, stroje, roboty...
Dnes pouze nadesla doba, kdy uz je clovek schopny zacit si vytvaret i pohodli intelektualni. Bude nahrazovat vlastni intelektovou drinu drinou umele inteligence.
-
Je to spatne?
Zakrnime?
Je snad spatne, ze za nas obili sklizi kombajny? Kdo by dnes sel s kosou na pole? Znamena to, ze jsme zakrneli?
Ne. Kdyby kombajny prestali fungovat, jiste by to byl sok, ale porad bysme se k te kose vratit umeli.
Je snad spatne, ze je dnes vse na elektriku? Ze se bez ni neobejdeme? Ne. kdyby elektrika celosvetove vypadla, byl by to obrovsky sok a vratilo by nas to do predindustrialni doby, ale prezili bysme i bez ni.
Byly by to nejcernejsi scenare, nasledkem vypadku technologii by zrejme byly pady civilizaci a vymirani. Hlady, zimou, zizni...
Ale ne proto, ze jsme zakrneli. Ale proto, ze dnesni mnozstvi lidi na Zemi je umozneno pouze diky pritomnosti onech technologii. Od prumyslove revoluce slo prakticky o civilizacni boom.
A s AI - intelektualnim ulehcenim - to muze byt stejne. Je dost mozne, ze povede k neocekavanemu boomu (v nespecifikovane oblasti). Kdy samozrejme muze hrozit, ze pri kolapsu AI nas to uvrhne do pre-AI doby, coz pro lidi za 100 nebo 200let muze znamenat nejcernejsi scenare a hromadne vymirani.
Ale ne proto, ze by intelektove zakrneli. Pouze to vrati zpet na nulu onen boom.
-
Takze muj nazor je, ze AI ma potencial zahybat civilizacema. Zda k tomu dojde nebo ne nevim, ale myslim si, ze pozitiva prevazi nad negativy. Stejne jako u te prumyslove revoluce.
I kdyz, pokud nekdo za prumyslovou revoluci vidi hlavne hrozbu nuklearnich zbrani nebo dlouhodobou ekologickou katastrofu, coz oboji jsou dozajista platne argumenty, tak z tako gobalniho pohledu muze samozrejme prevazit negativni nad pozitivnim i u AI.
Coz je ale neco, co nikdo nedokaze prediovat.
A navic, pokud by clovek takto uvazoval, tak to muzeme zabalit rovnou. Realne proste maji lide mozky, kteri dokazou vynalezat a inovovat, tak proste vynalezame a inovujeme.
Nasledkami se muzeme zabyvat pozdeji. Navic clovek je mnohem uspesnejsi v prizpusobeni se nez v napravovani (vlastnich) skod, takze ono to nejak dopadne.
Neneseme odpovědnost za správnost informací a za škodu vzniklou jejich využitím. Jednotlivé odpovědi vyjadřují názory jejich autorů a nemusí se shodovat s názorem provozovatele poradny Poradte.cz.
Používáním poradny vyjadřujete souhlas s personifikovanou reklamou, která pomáhá financovat tento server, děkujeme.