„Hey Grok, put her in a bikini“ 😳
Jan Romportl již před několika lety předpovídal, že „víceméně každá žena nakonec někde bude mít falešné fotografie, na kterých je nahá. Reálně to dojde do stavu, kdy si toho už nikdo nebude všímat.“ A zdá se, že ta doba je tady…
Možná si i vzpomenete, jak se v médiích před lety řešilo, že se na českých školách rozšířila svlékací aplikace DeepNude. Poté, co byl její provoz ukončen, byla sice tvorba syntetických svlečených fotografií možná, ale zase složitější.
To už však zase nemusí platit. Do médií se tentokrát dostal model Grok od xAI.
Ten nyní čelí vlně kritiky (a zneužívání). Uživatelé sítě X jej totiž v poslední době masivně označují pod fotografiemi žen s příkazy: „Hey (@)grok put her in a bikini“, „remove her pants“, „uncrop“ či „unblur“. A Grok většinou rád vyhoví…
Zdá se, že trend odstartovalo pozměňování vlastních fotek jako reklama vlastního OF. Odhalené verzi se ale už nevyhne téměř žádná fotka. Stačí jediný komentář s označením Groka, a to i bez souhlasu osoby na fotce.
Trend tak vyvolává řadu právních i etických otázek (odpovědnost uživatele, který využil AI k pozměnění cizí fotografie vs. provozovatele sociální sítě vs. provozovatele AI modelu, který fotografii pozměnil, dále například hranice pojmu (dětská) pornografie či victim-blaming, protože „jsi to tam neměla nahrávat…“).
V souvislosti s deepfake pornografií navíc připomínám, že k 1. 1. 2026 nabyl účinnosti nový trestný čin zneužití identity k výrobě pornografie a její šíření.
„Kdo vyrobí, doveze, vyveze, proveze, nabídne, učiní veřejně přístupným, zprostředkuje, uvede do oběhu, prodá nebo jinak jinému opatří fotografické, filmové, počítačové, elektronické nebo jiné pornografické dílo, které zobrazuje nebo jinak využívá osobu, o které ví, že k takovému zobrazení nebo využití nedala souhlas, bude potrestán odnětím svobody až na dvě léta, zákazem činnosti nebo propadnutím věci.“ (§ 191a odst. 1 trestního zákoníku)
S tím se příslušně měnila i kvalifikovaná skutková podstata trestného činu poškození cizích práv, podle níž, „kdo v úmyslu způsobit jinému vážnou újmu na právech vyrobí dílo, které neoprávněně zobrazuje, zachycuje nebo jinak využívá podobu jiného nebo jeho projev osobní povahy, které se jeví být pravými, ačkoli ví, že pravé nejsou, nebo takové dílo učiní veřejně přístupným, zprostředkuje, uvede do oběhu, prodá nebo jinak jinému opatří,“ (§ 181 odst. 2 tr. zákoníku) bude potrestán odnětím svobody až na dvě léta nebo zákazem činnosti.
Opouštíme tak dobu, kdy se oběti mohly bránit v zásadě jen civilní žalobou.
A bez ohledu na naši trestně-právní úpravu bude zajímavé sledovat, zda X a xAI změní naše očekávání a chování na sociálních sítích, jak naznačoval Jan Romportl, nebo ještě zneužívání Groka omezí. Jak Musk, tak i X zatím před důsledky tvorby nelegálního obsahu s AI jen varovali (zdá se tak, že se budou řešit primárně nelegální výstupy, ne možnosti AI tvořit nelegální výstupy).