AI - skrytá hrozba pro lidstvo?

Mě umělák slouží docela dobře. (Pravda, nevěřím mu ani slovo, ale to nevadí, i tak slouží dobře.)

Na to mu kašlu. Teď s ním rozebírám některé kličky programování v asembleru, kooperativní multitasking a vývoj FORTH prostředí. Na chipu, co má 8kB RAM. Já vím kam jdu, on mi umetá cestu kde si řeknu a já si z toho beru jen to dobré a na zbytek mu kašlu.

Prostě dobrý sluha a ať si nemyslí, že by snad mohl být pán.

gilhad:

Kamarád mi v chatu napsal:

Narazil jsem na zajimavy problem AI.
Hledal jsem na Googlu, jak neco resit pomoci neuronovych siti.
A AI mi odpovedelo, ze na to existuje specialni typ neuronovych siti, ktery mel velice specializovany nazev.
Problem je v tom, ze nic takoveho neexistuje, AI si to vymyslelo.
A to mi AI dela porad, kdyz hledam, jak vyresit nejaky problem, tak AI vzdy napise obsahle reseni, ale casto uplne vymyslene.
Zacinam byt dost skepticky ohledne teto technologie.
Na jednoduche problemy AI nepotrebuju a na slozite si vymysli.

> ať si nemyslí, že by snad mohl být pán

On už pán je - třeba cenzor na sockách.

@ailtd Však říkám, že mu nevěřím ani slovo

Včera jsem s ním probíral slovo ACCEPT (v podstatě editace vstupu na řádce) a napsal mi docela rozumný návrh, který používal pár dalších slov, která taky napsal celkem rozumně. A pak jsem se ho zeptal na jím použitá slova?DO .. LOOP (programová smyčka) a tam mi úplně stejným tónem předložil naprosto nefunkční řešení a na další dotazy se začal zaplétat do naprostých halucinací, tak jsem si to našel jinde. (Přitom by člověk čekal, že když dá v klidu nástavbu, tak by základy mohl taky trefit aspoň trochu, ale ne. Přesně proto mu nevěřím vůbec.)

S tím prvním mi ušetřil nějaký čas a dost rozvažování o vhodných názvech (on to vytáhnul odněkud z internetu, kde tomu to přemýšlení dal už někdo jiný), s tím druhým jsem ztratil tak tři dotazy, ale odvodil jsem si, proč to jeho fungovat nemůže (jako cvičení taky dobré) a pak jsem to po chvíli hledání našel na netu sám. Celkově mi to v součtu nějaký čas ušetřilo. A ačkoli bych si to dokázal vymyslet všechno sám, tak je často výrazně rychlejší, ověřit, jestli nějaký návrh funguje, než ho skládat celý sám.

Předevčírem jsem s ním probíral CATCH .. THROW (čili vyhazování a zachytávání vyjímek, když se něco pokazí hluboko uvnitř - například není soubor) a předložil něco, co fungovalo, ale když jsem to pročítal, tak jsem hned viděl, jak to zobecnit, aby to šlo do sebe zanořovat opakovaně (což se velice hodí). Tak jsem si to napsal sám s tím vylepšením.

Prostě to člověk taky musí umět používat a nenahradí to zdravý úsudek a znalost tématu.

Na sockách nějak nepobývám (nepovažujete-li poradte a jemu podobná fóra za socky), protože co tak celou dobu slyším, tak poměr balast/užitečné je tam naprosto zoufalý.