Nejste přihlášen/a.

Přihlásit se do poradny

 

Nástroje na detekci AI

Od: ahojda odpovědí: 17 změna:
Dobrý den,
proč nejsou zavedené nástroje na detekci psané chatGPT (když už existují) na školách? Není to otázka času? Kdy si myslíte, že se nástroje zavedou?
Nebude v budoucnu několik smutných tváří, kteří budou odhaleni z používání AI nástrojů při psaní bakalářské práce nebo diplomové? Je etické kontrolovat studenty zpětně, když už promovali?
Děkuji

 

 

17 odpovědí na otázku
Řazeno dle hodnocení

 

 

km

1x

Jednou otázkou je, jestli chcete podvádět. A druhu otázkou, zda se to dá odhalit. Dnes těžko, zítra možná.

ahojda

Neee, to neee.
Spíše naopak, dnes AI ještě odhalit lze, brzy už to nebude možné.

 


1x

Stačí po studentovi požadovat aby práce nebyla jen obecný blábol. Pokud tam budou konkrétní ověřitelné skutečnosti, tak je velká pravděpodobnost že ChatGPT napíše nesmysl - prostě si fakta domyslí a to viditelně špatně.

 

kdosi

1x

ChatGPT se pořád zdokonaluje a je tu celkem krátce. Za pár let bude kvalitou úplně někde jinde.

Nástroje pro odhalování chatGTP se budou také zdokonalovat, dokud je bude potřeba. A určitě pro ty budoucí bude snazší odhalit současný (z jejich pohledu zataralý a primitivní) chatGPT.

Je etické odhalit neetické chování studentů? Zajisté je. Ostatně si vem, že se relativně nedávno veřejně protřásalo, kteří politici získali které tituly neférovým způsobem, i když podváděli před více lety.

A je teda taky dost rozdíl, co s tím chatGPT člověk provádí. Pokud mu prostě zadáš úkol/bakalářku/diplomku/... a vezmeš co z něj vypadne, tak by to hodnocení/bakaláře/diplom měl dostat chatGPT, nikoli ty.

Navíc teda hrozně kecá a halucinuje i v celkem jednoduchých věcech - teď jsem ho použil jako gumovou kachničku při návrhu dekódování adres (když si nejste něčím jistí, vysvětlete to nahlas gumové kachničce - většinou se vám to tím vysvětlováním ujasní) a vymyslel tohle:

RAM0_CS is active when the address is in the range 0000-7FFF. This is indicated by A15 and A14 both being 0.

(Bavím se s ním anglicky, protože chci anglickou dokumentaci) rozsah adres 0000-7FFFF je jednoduše dám tím, že nejvišší bit adresy (tedy A15) je nula a všechny ostatní můžou být libovolné - chatGPT tu nesmyslně zúžil rozsah na polovinu. Já to vidím hned, ale mnohý člověk to snadno přehlédne, když se chatGPT tváří suverénně a má dobrý grafický styl. (a on sám se sám od sebe neopraví, dokud ho na to neupozorníš)

Takže já mu vždycky něco řeknu, on něco řekne mě, já si to zkontroluju, chyby opravím, případně mu to řeknu i s opravama, třeba ještě upřesním další věci a takhle si chvíli spolu povídáme, dokud se to někam posunuje, načež vezmu výsledek, důkladně si ověřím všechno, opravím co vyhalucinoval, doplním co ztratil, pak to vezmu znova a přepíšu to vlastními slovy a případně změním i úpravu podle svého vkusu.

A pak tam dopíšu všechno, o čem se s ním nemělo cenu dohadovat, nebo co by se mu těžko vysvětlovalo.

A pak si to teprve plácnu na web.

A je to převážně moje dílo, jeho vliv tam je jen minimální - jako když jsem se kdysi učil na zkoušky a vykládal jsem matematiku našemu psovi. A babička si ty věci taky prohlédla a i když matematika nebyla její koníček, tak měla připomínky typu - neměly by tyhle nadpisy být stejně velké a támhlety různě, když jsou u nich různě dlouhá čísla? No měly, tak jsem to opravil taky.

S tímhle problém není, problém je, když za tebe někdo dělá i ten základ práce, aniž bys mu dostatečně rozuměla.

 

smode2

1x
Protože jsou dnes někteří studenti takoví troubové, že by jim často chatgpt vyplivnul lepší výsledky než jsou schopní vytvořit sami. Pak se v tom vyznejte. Potřebujete nezvratný důkaz. Ne nějaké dohady. Jinak jde jen o kvalitu vstupů a kvalitu ai. V budoucnu nelegální užití pochopitelně nepoznáte. Není jak. To zase nějaký humanitní profesór co se mu nechce nic dělat a rozumí tomu jako postel pečínce něco kváknul aby studenty vyděsil a ono se to chytlo. Lidem prostě dneska nabulíkujete cokoliv.
ahojda

Proč si myslíte, že se to nepozná, když existují detektory typu zeroGPT a jiné? V budoucnu budou úplně jinde.
kdosi

A AI bude v budoucnu taky někde jinde

Za nás se nesměly ve škole používat kalkulačky, za našich dětí to byly kalkulačky s pamětí, vnuky čeká zákaz AI, otázkou je, co bude čekat pravnuky...

Já logaritmické pravítko ještě umím používat, ale obávám se, že mnoho takových mezi mládeží nebude ... pokrok prostě nezastaví ...

ahojda

No fajn, ale když počkáte 2-3 roky, tak se vždycky vybudují nové systémy pro detekci staré AI.
kdosi

No ale je otázka, kde se to zastaví. Jestli vychytají ty nejhorší halucinace, tak bude problém, že už teď se AI dokáže vyjadřovat lépe, než spousta živých lidí (natož Živých člověků).

A taky dost opadnou důvody proti jejímu využívání. Já pamatuju, jaký byl tlak proti používání internetu - dnes je to jeden z naprosto běžných zdrojů i se všemi svými problémy. AI je taky jeden z nástrojů a časem bude důležité ho umět ovládat a bude se to učit na školách (nebo brát jako samozřejmá znalost), stejně jako dnes například počítače a další výpočetní technika.

 

hans77

1x
Psát práce pomocí AI je podvod. Jestli to bude v budoucnu odhalitelné, je třeba možné. Před 20-25 lety by také nikoho nenapadlo, že půjde kontrolovat práci na plagiátorství. A že se podvádělo jako brutálně. Vím o případech, kdy dotyční vzali starou práci z školy v jiném městě, akorát změnili jméno a odevzdali jako svojí. Nikdo to neměl šanci odhalit, získali titul. Dnes se bojí jít do nějaké vysoké pracovní pozice, neřkuli do politiky. Prostě kdekoliv, kde by na ně bylo moc vidět, kde by někdo mohl hloubkově zkoumat jejich studium. Když si necháte napsat práci na zakázku od někoho cizího, když to napíšete přes AI nebo jakýkoliv jiný podvod, budete se bát stejně, a to až do důchodu, že se něco provalí a budete mít z ostudy kabát. Doporučuji tedy nepodvádět, mít čistý štít, abyste nemusel mít celoživotní obavy, že vás na to někdo sejme.
ahojda

Pěkný komentář, děkuju. Jenom, jak by to šlo dneska odhalit? Existují vůbec ještě jejich práce?
Ty případe jsou nebo bylo v poslanecké sněmovně? viz diplomová práce týkající se chovu králíků (ministryně venezuela"

 

 

kmet

0x

1) vložím chatugpt text s úkolem napsat ho jinými slovy, se stejným významem, 2) přečtu, co vylezlo, zkoriguju to, nechám si to třeba 10 přepsat, 3) nikdo nic nepozná, nemá šanci, nemá se čeho chytit. Tedy kontrolovat to nemá smysl. Když byly nové kalkulačky, taky se proti nim bojovalo, znáte logaritmické pravítko?

ahojda

Takže si myslíte, že nedojde k zpětné kontrole domácích úkolů nebo bakalářských nebo diplomových prací?
uko

Dojde a budeš odhalen jako podvodník.

 


0x
V tom je problém, že současně ve vedlejší poradně se řeší, jak vygenerovat něco, aby nešlo poznat, že to je generované umělou inteligencí.
Tedy vlastně správně řečeno, aby detekční systémy to neodhalily (který opět používají nějaký algoritmus), jde o nikdy nekončící boj dvou protipólů, podobně jako antiviry a viry.
Výsledkem je, že ani jedno nemůže pracovat se 100% správností.

 

 


 

 

 

Přihlásit se k odběru odpovědí z této otázky:

Neneseme odpovědnost za správnost informací a za škodu vzniklou jejich využitím. Jednotlivé odpovědi vyjadřují názory jejich autorů a nemusí se shodovat s názorem provozovatele poradny Poradte.cz.

Používáním poradny vyjadřujete souhlas s personifikovanou reklamou, která pomáhá financovat tento server, děkujeme.

Copyright © 2004-2025 Poradna Poradte.cz. Všechna práva vyhrazena. Prohlášení o ochraně osobních údajů. | [tmavý motiv]