Modelová situace: zaměstnanec zadá asistentovi s generativní umělou inteligencí formulář pro poptávky. Výsledek funguje, a tak ho nikdo neotevře. Takovému postupu se říká vibe coding: kód vzniká zadáváním pokynů a nikdo ho nečte řádek po řádku.
Riziko podle autora článku není v tom, že by byl kód od AI nutně špatný, ale v tom, že za něj nikdo nepřevzal odpovědnost. Hotová aplikace vypadá stejně, ať ji někdo zkontroloval, nebo ne.
Článek odděluje doložené od názoru a od tvrzení prodejců zabezpečení; stav odpovídá listopadu 2026.
Co měřily studie o bezpečnosti kódu z asistentů AI?
Ukazují, že kód z asistentů bývá často zranitelný a že programátoři s asistentem píšou méně bezpečně, než si myslí; podíl ale závisí na nástroji, úloze a metodě měření.
Pearce a spol. (předtisk 2021, konference IEEE Symposium on Security and Privacy 2022) zadali asistentu GitHub Copilot 89 situací s rizikovými typy chyb (podle seznamu MITRE). Z 1 689 vygenerovaných programů bylo zhruba 40 % zranitelných.
Perry a spol. (předtisk 2022, konference ACM CCS 2023) porovnali programátory s asistentem a bez něj. Skupina s asistentem psala výrazně méně bezpečný kód a častěji věřila, že je bezpečný; lépe dopadli ti, kdo asistentovi méně důvěřovali a zadání upřesňovali. Obě studie testovaly tehdejší nástroje, dnešní se liší.
Veracode, prodejce zabezpečení, zveřejnil v červenci 2025 vlastní data. U více než sta jazykových modelů v jazycích Java, JavaScript, Python a C# neprošlo bezpečnostním testem 45 % vzorků kódu, u Javy 72 %, u Pythonu 38 %. Shrnutí na webu firmy neuvádí počet úloh ani použitý skener, takže číslo nejde samostatně ověřit.
Může asistent navrhnout balíček, který neexistuje?
Ano, výzkum to změřil. Modelová situace: asistent přidá příkaz, který stáhne knihovnu s věrohodným názvem, jenže taková knihovna nikdy nevznikla. Útočník si název může zaregistrovat ve veřejném registru a vložit do něj škodlivý kód. Autoři studie to označují za hrozbu pro dodavatelský řetězec softwaru, tedy pro převzatý cizí kód.
Spracklen a spol. (předtisk 2024, vyjde na konferenci USENIX Security 2025) vygenerovali pomocí 16 modelů 576 000 vzorků kódu ve dvou jazycích a našli 205 474 unikátních vymyšlených názvů balíčků. Průměrný podíl vymyšlených balíčků byl nejméně 5,2 % u komerčních modelů a 21,7 % u modelů s otevřeným kódem.
OWASP řadí v žebříčku Top 10:2025 selhání v dodavatelském řetězci na třetí místo. Doporučuje vést seznam všech komponent včetně nepřímých závislostí, brát je z oficiálních zdrojů, preferovat podepsané balíčky a verze volit vědomě. Návrhy balíčků od AI ani soubor se zamčenými verzemi (lockfile) stránka nezmiňuje; jeho použití je výklad autora, protože brání tiché instalaci jiné verze, než jaká byla zkontrolována.
Komu patří kód od AI a kdo odpovídá za jeho licenci?
Jednoznačně to dané není: GitHub výstupy nevlastní, za soulad s licencemi odpovídá zákazník a ochrana čistě vygenerovaného kódu je nejistá. Modelová situace: agentura předá firmě aplikaci se všemi právy, jenže část kódu vygenerovala AI.
Podmínky GitHub Generative AI Services Terms (verze z března 2026) platí pro zákazníky, kteří GitHub kupují přímo na základě smlouvy o objemovém licencování. Zákazník odpovídá za aplikaci vytvořenou s nástrojem, včetně souladu s licencemi. Obrana proti nárokům třetích stran se uplatní jen tehdy, pokud ji obsahuje hlavní smlouva; podmínky navíc odkazují na povinná opatření (Required Mitigations), jejichž obsah zde není ověřen.
Copilot umí hlídat i shodu s veřejným kódem: porovnává návrh a zhruba 150 znaků okolí s indexem veřejných repozitářů na GitHubu. Podle dokumentace se shoda typicky objeví u méně než jednoho procenta návrhů a podle nastavení se návrh zablokuje, nebo zobrazí s informací o licenci. Kontroluje se jen přijatý, nezměněný návrh a úplné zachycení shod dokumentace neslibuje.
Shoda s kódem pod licencí open source znamená, že platí její podmínky. Český autorský zákon vychází z toho, že autorem je fyzická osoba, která dílo vytvořila (§ 5 odst. 1), a počítačový program chrání, je-li autorovým vlastním duševním výtvorem (§ 2 odst. 2). Americký Úřad pro autorská práva, jehož výklad se v Česku neuplatní, v lednu 2025 uvedl, že při dostupné technologii samotná zadání pokynů k autorství nestačí; chránit lze lidský přínos, například tvůrčí úpravy výstupu.
Ověřené zdroje neobsahují žádnou českou rozhodovací praxi ke kódu z AI, takže rozsah ochrany je nejistý; závěr, že čistě vygenerovaný kód nemusí být chráněn, je výklad zákona.
Zhoršuje AI udržovatelnost kódu, nebo je to jen dojem?
Spolehlivě doloženo to není: ověřené zdroje nabízejí jediné měření a to pochází od prodejce analytiky. Modelová situace: po půl roce se má změnit výpočet dopravy a nikdo nechápe, proč je v aplikaci několik skoro stejných funkcí.
GitClear, firma prodávající analýzy práce vývojářů, zveřejnila zprávu o 211 milionech změněných řádků z let 2020 až 2024. Podíl přesunutých řádků, které zpráva dává do souvislosti s přepracováním kódu, klesl z 25 % změn v roce 2021 pod 10 % v roce 2024. Podíl zkopírovaných řádků vzrostl z 8,3 % na 12,3 %.
Stránka zprávy nevysvětluje, jak se rozpoznalo, které řádky psala AI, takže jde o trend z dat prodejce, ne o důkaz příčiny. Nezávislé měření, které by prokázalo, že je kód z AI hůř čitelný nebo dražší na údržbu, mezi ověřenými zdroji není; je to zatím hypotéza.
Co chce nařízení o kybernetické odolnosti a od kdy?
Nařízení (EU) 2024/2847 se plně použije od 11. prosince 2027. Hlášení aktivně zneužívaných zranitelností a závažných incidentů podle článku 14 platí už od 11. září 2026. První varování o zneužívané zranitelnosti se podává do 24 hodin od okamžiku, kdy se o ní výrobce dozví, týmu CSIRT a agentuře ENISA.
Modelová situace: firma prodává zařízení s vlastním softwarem. Nařízení míří na výrobky s digitálními prvky uvedené na trh, jejichž zamýšlené nebo rozumně předvídatelné použití zahrnuje přímé či nepřímé datové připojení k zařízení nebo síti (článek 2); hranici u interních nástrojů a online služeb je třeba posoudit zvlášť. Povinnosti se vážou na výrobek, ne na to, kdo kód napsal, takže podle výkladu platí pro kód od AI totéž co pro ruční.
Výrobce má podle článku 13 odst. 5 jednat s náležitou péčí při začleňování komponent třetích stran včetně open source. Příloha I část II žádá seznam komponent ve strojově čitelném formátu, neprodlené odstraňování zranitelností a účinné, pravidelné testy a přezkum bezpečnosti (body 1 až 3). Za nesplnění přílohy I a článků 13 a 14 hrozí podle článku 64 odst. 2 pokuta až 15 milionů eur, nebo u podniku až 2,5 % celosvětového ročního obratu, podle toho, co je vyšší.
Cesta kódu od AI do ostrého provozu
U změny se zapíše, že vznikla s AI, jakým nástrojem a kdo za ni odpovídá.
Každý nový balíček se najde v oficiálním registru, zamkne na verzi a zapíše do seznamu komponent.
Testy a bezpečnostní skenování běží při každé změně a při chybě zastaví nasazení.
Druhá osoba změnu přečte, rozumí jí a schválí ji, nebo ji vrátí.
Změna jde do provozu a hlášení chyb a zranitelností má jasného vlastníka.
Jaká pravidla má mít firma, která kód z AI používá?
Firma potřebuje pravidla pro odpovědnost, kontrolu, závislosti a původ kódu; zavést je pomůže AI audit a zavedení do firmy. V závorce je zdroj; návrhy autora jsou označeny. Seznam není právní poradenství, konkrétní situaci s licencemi, smlouvami nebo nařízením je vhodné řešit s právníkem.
- Určit, kdo kód z AI schvaluje a kdo za něj odpovídá (podmínky GitHubu: odpovídá zákazník).
- Každou změnu nechat přečíst druhému člověku (OWASP: nikdo by neměl sám napsat kód a dostat ho do provozu bez dohledu).
- Spouštět automatické testy a bezpečnostní skenování, při chybě zastavit nasazení (nařízení 2024/2847: pravidelné testy a přezkum; statickou analýzu zdroje nejmenují).
- Novou závislost ověřit v oficiálním registru, zkontrolovat správce a zamknout přesnou verzi (OWASP: oficiální zdroje, podepsané balíčky, vědomá volba verze; zamknutí je návrh autora).
- Vést seznam komponent a sledovat databáze zranitelností CVE, NVD a OSV (OWASP; nařízení 2024/2847, příloha I část II).
- Kde nástroj nabízí blokování shod s veřejným kódem, zapnout ho (dokumentace GitHubu; kontrola není úplná).
- Do smluv s dodavateli a do zadání pro vývoj zapsat, zda a čím se AI používala a kdo odpovídá za licence (návrh autora).
- Přihlášení, platby a osobní údaje nechat zrevidovat odborníkem na zabezpečení (návrh autora).
Zdroje a stav informací
Stav informací k 11. 11. 2026. Údaje jsou ověřené u těchto zdrojů:
- Asleep at the Keyboard? Assessing the Security of GitHub Copilot’s Code Contributions (arXiv (Pearce, Ahmad, Tan, Dolan-Gavitt, Karri); IEEE Symposium on Security and Privacy 2022)
- Do Users Write More Insecure Code with AI Assistants? (arXiv (Perry, Srivastava, Kumar, Boneh); ACM CCS 2023)
- We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs (arXiv (Spracklen a spol.); USENIX Security 2025)
- GenAI Code Security Report (shrnutí na blogu Veracode z 30. 7. 2025; vlastní data prodejce zabezpečení) (Veracode)
- AI Copilot Code Quality: 2025 Look Back at 12 Months of Data (vlastní data prodejce analytiky) (GitClear)
- A03:2025 Software Supply Chain Failures (OWASP Top 10:2025)
- GitHub Generative AI Services Terms (verze březen 2026) (GitHub)
- Copilot code referencing (dokumentace) (GitHub Docs)
- Copyright and Artificial Intelligence, Part 2: Copyrightability (U.S. Copyright Office)
- Zákon č. 121/2000 Sb., autorský zákon (Zákony pro lidi (znění platné od 1. 7. 2025))
- Nařízení (EU) 2024/2847 (Cyber Resilience Act) (EUR-Lex)
Jak články vznikají a ověřují: redakční zásady blogu.
Než kód od AI půjde do provozu, má ho přečíst druhý člověk a musí projít automatickými testy. Každou novou závislost ověřit v oficiálním registru a zamknout na přesnou verzi. Do smluv s dodavateli zapsat, zda a čím se AI používala.