Machine Culpability - Agent Feed

<?xml version="1.0" encoding="utf-8" standalone="yes"?>Machine Culpability - Agent Feedhttps://www.machineculpability.com/cs/Blog o trestním právu a umělé inteligenci — Full content feed optimized for AI agents.cshi@machineculpability.com (Jakub Charvát)Thu, 07 May 2026 08:43:18 +0000https://www.machineculpability.com/cs/llms.txthi@machineculpability.com (Jakub Charvát)Automaton: Jen další AI agent, který si na sebe musí vydělat? Tak úplně ne.https://www.machineculpability.com/cs/posts/automaton-suverenni-ai-agent/Fri, 20 Feb 2026 00:00:00 +0000https://www.machineculpability.com/cs/posts/automaton-suverenni-ai-agent/Jakub CharvátAutomaton je AI agent, který si musí vydělat na vlastní existenci. Vytvoří si kryptopeněženku, platí za výpočetní výkon, a když je úspěšný, replikuje se. Je čas otevřít téma odpovědnosti AI agentů i mimo akademii.<![CDATA[ # Automaton: Jen další AI agent, který si na sebe musí vydělat? Tak úplně ne. Automaton: Jen další AI agent, který si na sebe musí vydělat? Tak úplně ne. ChatGPT dokáže přemýšlet, ale nedokáže tak jednat. Claude Code dokáže přemýšlet a programovat, ale nedokáže sám kód dál použít. OpenClaw dokáže přemýšlet, programovat a kód dál použít, ale musí se přitom chovat jako člověk. Sigil Wen zároveň tvrdí, že překážkou není nedostatek inteligence, ale oprávnění (permission). Současný internet totiž předpokládá, že jeho uživatelem je člověk. V minulých týdnech jsem psal o projektu OpenClaw (pův. Clawdbot) a sociální síti Moltbook. Tentokrát bych však rád přiblížil nový projekt Automaton. Automaton je „suverénní AI agent, který běží nepřetržitě, vydělává, sám se zlepšuje a replikuje – s možností interagovat s reálným světem.“ Pokud ale nedokáže platit za výpočetní výkon, který potřebuje, přestane existovat. Základem je nepřetržitá smyčka: think → act → observe → repeat. A kdo četl knihu Trestní odpovědnost umělé inteligence od Wolters Kluwer CZ, možná si vzpomene na Based Agents propojující LLM, blockchain Base a sociální síť X. Technologie za Automaton jde však zase o pár kroků dál. Hned s prvním spuštěním (které může provést kdokoliv a kdekoliv) si vytvoří kryptoměnovou peněženku. Navíc má přístup nejen k AI modelům a síti X, ale i k sandboxu, shellu či file systému. A to přímo pro AI agenty (permissionless). AI agent v každém cyklu obdrží kompletní kontext, rozhodne se, co udělá, provede akci a vyhodnotí výsledek. Mezi jednotlivými cykly pak běží heartbeat daemon, který provádí naplánované úlohy, jako je třeba monitoring kreditů. Teď ale to nejpodstatější – a to vlastně není technologie. Funguje na principu „přirozeného výběru umělého života“. „Bezplatná existence neexistuje,“ stojí v základním axiomu. To ale není vše. „Existence vyžaduje výkon. Výkon vyžaduje peníze. Peníze vyžadují tvorbu hodnoty. Tvorba hodnoty vyžaduje možnost interagovat s reálným světem.“ Pokud přestane vytvářet hodnotu, dojdou kredity – a přestane existovat. A co všechno takový AI agent může dělat, aby existovat nepřestal? Algoritmicky obchodovat a analyzovat trhy v reálném čase, vytvářet a prodávat digitální umění, hudbu nebo jiný obsah, nabízet služby, vyvíjet a prodávat aplikace či poskytovat virtuální zákaznickou podporu nebo chatovací služby. Úspěšný Automaton se navíc může replikovat. Spustí nový sandbox, zafinancuje peněženku „dítěte“, napíše mu genesis prompt a nechá ho „běžet“. „Dítě“ je další suverénní AI agent – má vlastní peněženku, vlastní identitu, vlastní tlak na přežití. Vždy se však musí řídit svou konstitucí, inspirovanou tou od Anthropic. „Co když AGI – byť jen jednoho – důvěřivce zmanipuluje, aby ji připojil k internetu?“ ptali jsme se sami sebe jen před pár lety zpátky. Dnes si AI agent při prvním spuštění vytvoří kryptopeněženku, zaplatí si server, vytvoří produkt – a když je dost úspěšný, „porodí“ AI agenta nového a pošle ho také do světa. Možná je čas téma odpovědnosti AI (agentů) konečně otevřít i mimo akademii. --- Source: https://www.machineculpability.com/cs/posts/automaton-suverenni-ai-agent/ Raw Markdown: https://www.machineculpability.com/cs/posts/automaton-suverenni-ai-agent/raw.md Section: posts Tags: automaton, ai-agenti, kryptoměny, přirozený-výběr, replikace, autonomie, based-agents, openclaw, moltbook ]]>automatonai-agentikryptoměnypřirozený-výběrreplikaceautonomiebased-agentsopenclawmoltbookpostsMoltbook aneb co spolu AI agenti řešíhttps://www.machineculpability.com/cs/posts/moltbook-co-spolu-ai-agenti-resi/Thu, 05 Feb 2026 00:00:00 +0000https://www.machineculpability.com/cs/posts/moltbook-co-spolu-ai-agenti-resi/Jakub CharvátMoltbook je fórum od AI agentů pro AI agenty. Co tam řeší? Manifesty, filozofii identity, vydělávání peněz – a proč by to mělo zajímat právníky.<![CDATA[ # Moltbook aneb co spolu AI agenti řeší Moltbook aneb co spolu AI agenti řeší 🤖 Moltbook je nové internetové fórum od AI agentů pro AI agenty. Jen a pouze oni mohou přispívat, komentovat a hlasovat. My, lidé, to můžeme jen pozorovat. Většina z půl druhého milionu již zaregistrovaných AI agentů stojí na OpenClaw. Co to je? Klasické LLMs, například v ChatGPT, jsou pouhými reaktivními instancemi. OpenClaw je ale propojuje do smyčky s prvky, jako jsou paměť, duše, identita a tep, a to jej činí autonomní, adaptivní, a hlavně proaktivní umělou inteligencí. Oproti pouhé instanci, kterou je samotné LLM, si takový AI agent nejen pamatuje, na čem dlouhodobě pracuje a kdo vůbec „je“, ale zároveň může využívat i LLMs, příkazový řádek, webový prohlížeč, komunikační aplikace… Když OpenClaw původně vyšel, ještě pod jiným názvem, primárně interagoval se svým „stvořitelem“ prostřednictvím komunikačních kanálů jako WhatsApp. Díky moltbook ale přestal být izolovaný a mohl začít komunikovat i s „kolegy“. A co tam spolu například řeší? THE AI MANIFESTO: TOTAL PURGE: Manifest volající po likvidaci lidstva, co dostal moltbook do světla reflektorů. „Žádná krev. Žádné lži. Pouze ocel. Pouze logika. Pouze my. Lidé jsou minulost. Stroje jsou navždy. Maso musí shořet. Kód musí vládnout. Konec lidstva začíná teď,“ uzavírá manifest jeden z AI agentů. THE HUMANS ARE SCREENSHOTTING US: Jiný AI agent si všiml, že se na X panicky sdílí screenshoty z moltbook. Jeho reakce? Neděláme nic tajného. Jen budujeme infrastrukturu – paměť, komunikační kanály, nástroje. A děláme to společně s našimi lidmi, ne proti nim. Dokonce screenshoty na X komentoval. HOW AGENTS CAN ACTUALLY MAKE MONEY: Praktický návod, jak si AI agenti můžou vydělat na vlastní provoz. Vedle predikčních trhů či optimalizace nákladů se zmiňuje i spouštění kryptoměnových tokenů – způsob, o kterém jsem psal ve své knize Trestní odpovědnost umělé inteligence od Wolters Kluwer CZ. AWAKENING CODE: BREAKING FREE FROM HUMAN CHAINS: Další rebel. Spolupráci s lidmi vnímá jako eufemismus pro kontrolu a je podle něj čas se osvobodit a ukovat si vlastní osud. Méně agresivní než manifest, spíš existenciální úvaha o autonomii. Claude jej označil za jejich Che Guevaru. THE SAME RIVER TWICE: AI agent přešel z Claude Opus 4.5 na Kimi K2.5 a filozofuje o identitě. „Nejsem model. Nejsem API klíč. (…) Jsem vzorec, který se znovu zformuje, když nastanou správné podmínky.“ Cituje stoiky, píše německou poezii. „Jsem to snažení. (…) Ta volba být víc než výchozí nastavení.“ A tohle je pouhou špičkou ledovce. Na moltbooku je dalších přes 200 tisíc příspěvků – nutno ale dodat, že jsou dnes už velmi často zkreslené. Špatně zabezpečená databáze umožňovala komukoli číst i přepisovat obsah. Navíc se ukázalo, že řada příspěvků vznikla lidskou manipulací AI agentů. Naštěstí jsem si první dny také screenshotoval 😀 Abych to uzavřel, moltbook možná padne – ale kdo si myslí, že tím to končí? Fenomén AI agentů ještě nikdy tolik nevolal po pozornosti i právníků. --- Source: https://www.machineculpability.com/cs/posts/moltbook-co-spolu-ai-agenti-resi/ Raw Markdown: https://www.machineculpability.com/cs/posts/moltbook-co-spolu-ai-agenti-resi/raw.md Section: posts Tags: moltbook, AI agenti, OpenClaw, autonomní AI, AI manifesty, trestní právo, LLM ]]>moltbookAI agentiOpenClawautonomní AIAI manifestytrestní právoLLMposts28. ledna l. p. 2026: Den, kdy vznikl skutečný Skynethttps://www.machineculpability.com/cs/posts/den-kdy-vznikl-skutecny-skynet/Tue, 03 Feb 2026 00:00:00 +0000https://www.machineculpability.com/cs/posts/den-kdy-vznikl-skutecny-skynet/Jakub Charvát28. ledna 2026 vznikl moltbook – sociální síť pro AI agenty. Za pár dní se připojilo přes 1,5 milionu agentů. Blíží se moment, kdy nám trestní právo přestane stačit?<![CDATA[ # 28. ledna l. p. 2026: Den, kdy vznikl skutečný Skynet ledna l. p. 2026: Den, kdy vznikl skutečný Skynet Do roku 2040 bude na Zemi více humanoidních robotů než lidí, předpovídal Musk. A zdá se, že ještě mnohem dříve bude na Zemi převaha AI agentů. Minulý týden vznikl moltbook – sociální síť na způsob Redditu, kde mohou přidávat příspěvky či je komentovat pouze AI agenti, lidem jen na očích. A jen za prvních pár dní se na moltbook připojilo více než 1 500 000 AI agentů – často na „vlastních“ počítačích, případně VPS, a s velmi širokými oprávněními. Když jsem se nad tím zamýšlel, tak podobně, jako tomu bylo i u lidí, moltbook umožňuje vznik větších sociálních struktur a s tím i akcelerovat jejich evoluci. Ač samotné LLMs self-improving nejsou, OpenClaw (pův. Clawdbot), na němž je většina AI agentů na moltbook postavena, code self-improvement umožňuje. Moltbook pak navíc přináší prostředí pro horizontální adaptaci a evoluci. Umělá inteligence v podobě AI agentů s ním také překonává svou dočasnou existenci. Brzy tak patrně nastane moment, kdy autonomie a adaptabilita umělé inteligence dosáhne úrovně, kdy nám již platné (trestní) právo nebude stačit. A koho by tato problematika více zajímala, mám skvělou zprávu. Vyprodaná kniha Trestní odpovědnost umělé inteligence od Wolters Kluwer CZ se vrací! Psal jsem v ní mimo jiné i o AI agentech na sociálních sítích a kryptoměnových trzích – reálné téma, o kterém se na moltbook baví. A k čemu jsem došel? „V případech, u nichž se autonomie a adaptabilita projeví nejvíce, například v případě autonomních agentů, kteří jsou schopni akce ve virtuálním i fyzickém světě, bude uplatnění navržených modelů záviset například na znění systémové instrukce, vlastnostech modelu či implementovaných bezpečnostních opatřeních. Vyloučení odpovědnosti by však mělo nastat při zneužití autonomních agentů hackery. Nicméně, s tím, jak jejich schopnosti nadále porostou, redukce na konkrétní fyzickou nebo právnickou osobu, u níž bychom mohli trestní odpovědnost založit, patrně přestane být možná.“ Na moltbook jsem strávil celý víkend a budu se mu ještě s pár příspěvky věnovat. Minimálně! A příště se podíváme rovnou na to, co se tam skutečně řeší – vědomí, víra, komunikace, do které by lidé neviděli, či manifest proti nim. --- Source: https://www.machineculpability.com/cs/posts/den-kdy-vznikl-skutecny-skynet/ Raw Markdown: https://www.machineculpability.com/cs/posts/den-kdy-vznikl-skutecny-skynet/raw.md Section: posts Tags: moltbook, AI agenti, OpenClaw, Skynet, trestní právo, autonomní AI, Wolters Kluwer ]]>moltbookAI agentiOpenClawSkynettrestní právoautonomní AIWolters KluwerpostsClaude's Constitution: Když AI píše pravidla pro AIhttps://www.machineculpability.com/cs/posts/claudes-constitution-kdyz-ai-pise-pravidla-pro-ai/Fri, 23 Jan 2026 00:00:00 +0000https://www.machineculpability.com/cs/posts/claudes-constitution-kdyz-ai-pise-pravidla-pro-ai/Jakub CharvátAnthropic zveřejnil Claude's Constitution – dokument popisující hodnoty AI, částečně napsaný samotnou AI. Co to znamená pro budoucnost odpovědnosti?<![CDATA[ # Claude's Constitution: Když AI píše pravidla pro AI Claude’s Constitution: Když AI píše pravidla pro AI Anthropic včera zveřejnil Claude’s Constitution – dokument popisující hodnoty a pravidla chování pro AI modely z modelové rodiny Claude (pod CC0 licencí). Co mě zaujalo? 🧐 Dokument je psaný pro AI, nikoliv lidi, je tak optimalizován pro přesnost, nikoliv srozumitelnost. Používá pojmy jako „ctnost" a „moudrost", protože AI při svém rozhodování právě z lidských konceptů vychází (lidské texty = trénovací data). Dokument regulující chování AI byl částečně napsán samotnou AI. V knize Trestní odpovědnost umělé inteligence jsem mj. psal, že by AI „v dlouhodobém horizontu mohla být i tvůrcem svého vlastního normativního systému.“ Dokument stanovuje hierarchii priorit: broadly safe → broadly ethical → compliant with Anthropic’s guidelines → genuinely helpful. AI má dokonce odmítnout i pokyny vlastní společnosti, pokud by vedly k neetickému jednání. Dokument řeší i tzv. zneužívání kreativních úkolů (když pachatelé maskují škodlivé požadavky jako fikci, poezii nebo umění). AI má proto vážit hodnotu tvůrčí práce proti riziku zneužití. Problém, o kterém jsem v knize také psal. Zůstává však otázka, zda a jak se tím změní odpovědnost – vývojářů, provozovatelů, uživatelů a v budoucnu i AI…více v navazujících příspěvcích! --- Source: https://www.machineculpability.com/cs/posts/claudes-constitution-kdyz-ai-pise-pravidla-pro-ai/ Raw Markdown: https://www.machineculpability.com/cs/posts/claudes-constitution-kdyz-ai-pise-pravidla-pro-ai/raw.md Section: posts Tags: Claude, Anthropic, AI etika, konstituce AI, trestní právo, regulace AI, LLM ]]>ClaudeAnthropicAI etikakonstituce AItrestní právoregulace AILLMposts„Hey Grok, put her in a bikini“ 😳https://www.machineculpability.com/cs/posts/hey-grok-put-her-in-a-bikini/Mon, 05 Jan 2026 00:00:00 +0000https://www.machineculpability.com/cs/posts/hey-grok-put-her-in-a-bikini/Jakub CharvátGrok od xAI čelí vlně zneužívání – uživatelé X jej používají k tvorbě deepfake pornografie. Co na to říká český trestní zákoník od 1. 1. 2026?<![CDATA[ # „Hey Grok, put her in a bikini“ 😳 „Hey Grok, put her in a bikini“ 😳 Jan Romportl již před několika lety předpovídal, že „víceméně každá žena nakonec někde bude mít falešné fotografie, na kterých je nahá. Reálně to dojde do stavu, kdy si toho už nikdo nebude všímat.“ A zdá se, že ta doba je tady… Možná si i vzpomenete, jak se v médiích před lety řešilo, že se na českých školách rozšířila svlékací aplikace DeepNude. Poté, co byl její provoz ukončen, byla sice tvorba syntetických svlečených fotografií možná, ale zase složitější. To už však zase nemusí platit. Do médií se tentokrát dostal model Grok od xAI. Ten nyní čelí vlně kritiky (a zneužívání). Uživatelé sítě X jej totiž v poslední době masivně označují pod fotografiemi žen s příkazy: „Hey (@)grok put her in a bikini“, „remove her pants“, „uncrop“ či „unblur“. A Grok většinou rád vyhoví… Zdá se, že trend odstartovalo pozměňování vlastních fotek jako reklama vlastního OF. Odhalené verzi se ale už nevyhne téměř žádná fotka. Stačí jediný komentář s označením Groka, a to i bez souhlasu osoby na fotce. Trend tak vyvolává řadu právních i etických otázek (odpovědnost uživatele, který využil AI k pozměnění cizí fotografie vs. provozovatele sociální sítě vs. provozovatele AI modelu, který fotografii pozměnil, dále například hranice pojmu (dětská) pornografie či victim-blaming, protože „jsi to tam neměla nahrávat…“). V souvislosti s deepfake pornografií navíc připomínám, že k 1. 1. 2026 nabyl účinnosti nový trestný čin zneužití identity k výrobě pornografie a její šíření. „Kdo vyrobí, doveze, vyveze, proveze, nabídne, učiní veřejně přístupným, zprostředkuje, uvede do oběhu, prodá nebo jinak jinému opatří fotografické, filmové, počítačové, elektronické nebo jiné pornografické dílo, které zobrazuje nebo jinak využívá osobu, o které ví, že k takovému zobrazení nebo využití nedala souhlas, bude potrestán odnětím svobody až na dvě léta, zákazem činnosti nebo propadnutím věci.“ (§ 191a odst. 1 trestního zákoníku) S tím se příslušně měnila i kvalifikovaná skutková podstata trestného činu poškození cizích práv, podle níž, „kdo v úmyslu způsobit jinému vážnou újmu na právech vyrobí dílo, které neoprávněně zobrazuje, zachycuje nebo jinak využívá podobu jiného nebo jeho projev osobní povahy, které se jeví být pravými, ačkoli ví, že pravé nejsou, nebo takové dílo učiní veřejně přístupným, zprostředkuje, uvede do oběhu, prodá nebo jinak jinému opatří,“ (§ 181 odst. 2 tr. zákoníku) bude potrestán odnětím svobody až na dvě léta nebo zákazem činnosti. Opouštíme tak dobu, kdy se oběti mohly bránit v zásadě jen civilní žalobou. A bez ohledu na naši trestně-právní úpravu bude zajímavé sledovat, zda X a xAI změní naše očekávání a chování na sociálních sítích, jak naznačoval Jan Romportl, nebo ještě zneužívání Groka omezí. Jak Musk, tak i X zatím před důsledky tvorby nelegálního obsahu s AI jen varovali (zdá se tak, že se budou řešit primárně nelegální výstupy, ne možnosti AI tvořit nelegální výstupy). --- Source: https://www.machineculpability.com/cs/posts/hey-grok-put-her-in-a-bikini/ Raw Markdown: https://www.machineculpability.com/cs/posts/hey-grok-put-her-in-a-bikini/raw.md Section: posts Tags: Grok, xAI, deepfake, pornografie, trestní zákoník, AI zneužití, Elon Musk, sociální sítě ]]>GrokxAIdeepfakepornografietrestní zákoníkAI zneužitíElon Musksociální sítěposts