Na čem byl váš model trénovaný — a jaké riziko z toho dědíte

Když si vybíráte model, na kterém postavíte produkt, znáte o něm spoustu čísel: kontextové okno, cenu za token, latenci, skóre na benchmarku. Jedno ale skoro jistě nevíte — na čem se ten model vlastně učil. Jaké knihy, jaké weby, jaký kód, kolik z toho bylo licencované a kolik prostě stažené. A ta mezera není akademická kuriozita. Je to riziko, které přebíráte spolu s modelem, aniž ho vidíte na faktuře.

Tenhle článek není morální traktát o tom, jestli je trénování AI krádež, ani přehled aktuálních žalob. Je o jedné praktické otázce: co konkrétně pro vás — pro toho, kdo na modelu staví — plyne z toho, že provenience jeho tréninkových dat je z velké části neprůhledná a zčásti právně sporná. A co se s tím dá dělat, aniž byste propadli panice nebo to naopak úplně ignorovali.

01Co vůbec „tréninková data" jsou a proč je nevidíte

Velký jazykový model se učí z obřího textového korpusu poskládaného zhruba ze čtyř zdrojů: web (masivní scrape internetu, typicky přes Common Crawl), knihy, kód (často veřejné repozitáře) a kurátorované sbírky jako Wikipedia nebo vědecké texty. Poměry a konkrétní sady se u jednotlivých modelů liší a u těch nejsilnějších je většina detailů neveřejná.

Klíčové je, že tyhle zdroje se liší nejen obsahem, ale i právním statusem. Zjednodušeně jsou tři kategorie:

• Licencované nebo veřejné — data, ke kterým má tvůrce právo (nakoupené korpusy, veřejná doména, obsah s otevřenou licencí).
• Scrapované — veřejně dostupný obsah stažený z webu bez explicitní licence. Tady leží velká šedá zóna: „veřejně přístupné" neznamená „volně použitelné k trénování", a právě o tom se dnes vedou spory.
• Pirátské — obsah pocházející z jednoznačně nelegálních zdrojů (pirátské knihovny). Tady už není sporný původ, jen jeho právní následek.

Proč tvůrci modelů provenienci dat drží tak neprůhledně? Zčásti konkurenčně (složení korpusu je know-how), ale hlavně kvůli vlastní právní expozici: čím přesněji popíšou, co v datech je, tím snadněji se to použije proti nim v soudním sporu. Neprůhlednost není náhoda, je to obranná pozice.

Nejlepší konkrétní kotva je dataset Books3. Šlo o sbírku zhruba 190 tisíc knih, kterou obsahoval veřejný tréninkový korpus The Pile (EleutherAI) a která byla poskládaná z pirátských zdrojů. Že Books3 obsahoval chráněné knihy bez licence, je doložený fakt — dá se to dohledat po jednotlivých titulech, a novinář Alex Reisner o tom pro The Atlantic udělal prohledávatelnou databázi. Že některé rané modely na tomhle korpusu trénovaly, je taky doložené (mimo jiné z jejich vlastních papírů). Co doložené není, je právní závěr: jestli je trénink na takových datech porušení autorských práv, nebo spadá pod fair use. To je přesně ta otevřená otázka, na kterou zatím není jednoznačná odpověď — a je důležité tyhle dvě roviny nezaměňovat.

02Tři rizika, která z té neprůhlednosti dědíte

Tady je pointa článku. Neprůhledná provenience se neprojeví jako filozofický problém, ale jako tři konkrétní rizika ve vašem produktu.

1. Copyright a IP expozice

Když váš produkt generuje obsah pomocí cizího modelu, dědíte i otázku, odkud ten obsah pochází. Riziko má dvě roviny:

• Vstup (trénink). Jestli byl model trénovaný na chráněných datech bez licence, je to primárně problém jeho tvůrce — ale spor se může protáhnout do celého ekosystému a ovlivnit dostupnost i podmínky modelu, na kterém stojíte.
• Výstup (regurgitace). Model může vyplivnout text, který je blízkou nebo doslovnou kopií něčeho z tréninku. Když to udělá ve vašem produktu, jste to vy, kdo ten obsah publikoval. Žaloba The New York Times proti OpenAI přiložila příklady, kde model reprodukoval články téměř doslovně — ať už je právní výsledek jakýkoli, ilustruje to, že výstup není automaticky „čistý" jen proto, že ho vygeneroval model.

Kdo za to nese odpovědnost, je právně otevřené a řeší se doložkami (viz níže), ne domněnkami.

A pozor na jednu věc: fair use je americký rámec. Většina veřejné debaty (a většina žalob, o kterých čtete) běží v USA. Pokud ale prodáváte v Evropě, hraje se na jiné koleji. EU nemá fair use — má výjimky pro text and data mining (směrnice o autorském právu na jednotném digitálním trhu), které komerční trénink připouštějí, ovšem s právem držitelů práv se z něj opt-outem vyvázat. A AI Act ukládá poskytovatelům obecných modelů (GPAI) povinnosti, které se přímo týkají tématu tohohle článku: zveřejnit dostatečně podrobné shrnutí tréninkového obsahu a mít politiku dodržování autorského práva včetně respektování opt-outů. Tyhle povinnosti už jsou účinné. Prakticky to znamená dvě věci: evropský rámec vám dává o něco víc páky se ptát (shrnutí tréninkových dat je povinnost, ne dobrá vůle) — a zároveň platí, že „u nás je to fair use" není argument, který by vašeho evropského zákazníka nebo regulátora zajímal.

2. Reputace a důvěra

I tam, kde je právní riziko malé, zůstává riziko reputační — a to má na rozdíl od soudních sporů velmi krátkou smyčku. Konkrétní scénář: prodáváte produkt škole, nakladatelství nebo nemocnici a v procurement dotazníku (nebo prostě na schůzce) padne otázka „na čích datech ten model běží a jak s nimi bylo nakládáno?" Odpověď „nevíme, vendor to nezveřejňuje" je legitimní — ale jen tehdy, když za ní následuje „a tady je, co jsme kvůli tomu udělali": jakou máte doložku, co jste otestovali, proč jste vybrali právě tento model. Bez toho druhého kroku zní první věta jako „neřešili jsme to".

U značek postavených na důvěře (média, vzdělávání, zdravotnictví, právo) se navíc otázka původu dat netýká jen práva, ale identity: nakladatelství, které staví na cizím modelu trénovaném mimo jiné na pirátských knihách, má problém, i kdyby soudy nakonec rozhodly v jeho prospěch. Tohle riziko se nedá vyřešit doložkou — dá se jen vědomě zvážit a mít na tu otázku připravenou odpověď dřív, než ji někdo položí.

3. Chování modelu: memorizace a kontaminace

Poslední riziko je technické a nejmíň viditelné. Modely si část tréninkových dat pamatují doslovně — a čím větší model a čím vícekrát se text v datech opakuje, tím spíš. Výzkum extrakce tréninkových dat (Carlini a kol.) ukázal, že z modelu jde cílenými dotazy vytáhnout konkrétní zapamatované pasáže. Pro vás to znamená dvě věci:

• Regurgitace není hypotetická — je to měřitelná vlastnost, kterou má smysl u vlastního use-case otestovat, ne předpokládat, že se neděje.
• Kontaminace benchmarků. Když se do tréninkových dat dostane i testovací sada, model „umí" benchmark, protože ho viděl — a skóre pak měří paměť, ne schopnost. To je přímé pokračování článku Proč benchmarky AI modelů nestačí: neprůhledná data jsou jeden z důvodů, proč se veřejnému číslu nedá věřit naslepo.

03Co s tím: due diligence, ne panika

Dobrá zpráva je, že mezi „ignorovat to" a „bát se to použít" je praktická střední cesta. Čtyři konkrétní kroky:

1. Čtěte model cards a data statements kriticky — a všímejte si, co v nich chybí. U otevřenějších modelů bývá aspoň hrubý popis dat; u uzavřených často jen marketing. Užitečný vnější referenční bod je Foundation Model Transparency Index (Stanford CRFM), který tvůrce modelů dlouhodobě boduje mimo jiné právě za transparentnost dat — a ukazuje, jak málo jí je. U modelů nabízených v EU si navíc vyžádejte shrnutí tréninkového obsahu, které AI Act poskytovatelům GPAI ukládá zveřejnit — je to konkrétní dokument, na který se dá odkázat. Nízká transparentnost není důkaz problému, ale je to důvod ptát se dál.

2. Přečtěte si indemnizační doložku vendora — a hlavně co reálně kryje. Velcí poskytovatelé (OpenAI, Anthropic, Google, Microsoft) nabízejí nějakou formu závazku krýt copyright nároky z výstupu modelu. Skoro vždy to ale platí jen za podmínek: musíte používat zabudované bezpečnostní funkce, nesmíte úmyslně obcházet ochrany a nesmíte vědomě generovat porušující obsah. Doložka typicky nekryje legalitu tréninkových dat jako takovou. Přečtěte si, co konkrétně je a není zahrnuté, než se na to spolehnete.

3. Otestujte regurgitaci na svém use-case. Než budete tvrdit, že model neprodukuje cizí chráněný obsah, zkuste ho k tomu vyprovokovat na doméně, kde vám na tom záleží. Prakticky: dejte modelu začátek známého textu z vaší domény a nechte ho pokračovat (první odstavec knihy, úvod článku, hlavičku známého souboru kódu); vyžádejte si přímo delší pasáže konkrétních děl („ocituj doslova…"); u kódu si nechte „napsat" implementaci, o které víte, že existuje pod restriktivní licencí. Výstupy pak porovnejte s originály — stačí diff nebo hledání delších shodných úseků, žádná věda. Zajímá vás jediné: jestli model na vaší doméně produkuje doslovné nebo téměř doslovné kopie. Je to test na půl dne s konkrétní odpovědí — a když dopadne špatně, víte to vy dřív než váš zákazník.

4. Berte transparentnost dat jako jedno z kritérií výběru modelu. Ne jako jediné a často ne jako hlavní — ale u citlivých produktů patří vedle ceny, kvality a latence i otázka „jak moc víme, na čem to běží". Otevřenější modely a iniciativy jako Data Provenance Initiative (audit licencí populárních datasetů, který mimochodem našel rozsáhlé chybné značení licencí) tu dávají víc opory než neprůhledný frontier model — což je zase kompromis, který rozebírá Lokální modely vs frontier modely.

04Jak to celé číst: fakt, spor a claim

Tohle téma je magnet na dvě opačné nálady, a obě jsou k ničemu. Jedna říká „AI je vycucaná z ukradených dat, používat ji je krádež"; druhá „trénink je jednoznačně fair use, není o čem mluvit". Užitečné je držet tři roviny oddělené:

• Fakt: Books3 obsahoval pirátské knihy. Modely si část dat pamatují doslovně. Provenience u nejsilnějších modelů je z velké části neveřejná. Tohle jsou doložitelné věci.
• Otevřený spor: Je trénink na scrapovaných či pirátských datech porušení práv, nebo fair use (v USA), respektive krytý TDM výjimkou (v EU)? Kdo nese odpovědnost za porušující výstup? Tady soudy a regulátoři teprve rozhodují, verdikty přicházejí po částech a stav k létu 2026 není konečný.
• Claim: „Používat AI je krádež" i „je to bez problému" jsou závěry, které si berou jednu z rovin a vydávají ji za celek.

Pro vás jako pro někoho, kdo staví produkt, z toho neplyne „nepoužívat", ani „nestarat se". Plyne z toho vědět, co dědíte — a mít pár levných opatření (číst doložky, testovat regurgitaci, sledovat transparentnost) místo tichého předpokladu, že data pod modelem jsou čistá a bezriziková. Neprůhlednost sama je informace: říká vám, že tady je otevřená otázka, se kterou máte počítat.

05Souvislosti

Nejtěsnější dvojče je Proč benchmarky AI modelů nestačí — tam neznáte vztah veřejného čísla k vaší realitě, tady neznáte vstup, ze kterého to číslo vzniklo; kontaminace benchmarků obě témata přímo spojuje. Volbu na ose otevřenosti pak rozebírá Lokální modely vs frontier modely. Rozdíl mezi daty a vahami — tedy co vlastně fine-tuning s modelem dělá a co ne — rozebírá Fine-tuning není doučování, a otázku „co model ví vs. odkud to má" řeší Pravda, zdroje a RAG.

Článek popisuje právní stav k létu 2026 — konkrétní žaloby, verdikty a výklad regulace se mění řádově po měsících, princip (neprůhledná provenience = zděděné riziko, na které máte mít odpověď) ne. Nejde o právní poradenství.

Neprůhlednost sama je informace: říká vám, že tady je otevřená otázka, se kterou máte počítat.