Newsletter

#125 Plošné šmírování v režii EU

Ahoj,

opět hrozí, že EU schválí Chat Control, proto pro vás máme opravdu zevrubný článek o tom, proč by vás to mělo znepokojovat.

Je tady další Data Talk Newsletter.

Newsletter nyní odebírá 1818lidí, které zajímají datové technologie, AI a česko-slovenská datová scéna.

Konference DobroData už je za rohem

Už příští týden ve středu 3. září se uskuteční v prostorách VŠE konference DobroData, která vám ukáže, jak mohou data a technologie mohou společně sdobrými úmysly měnit svět k lepšímu. Není určená jenom pro datové profesionály, ale pro kohokoliv, koho zajímá, jak využít data pro pozitivní změny.

Vystoupí na ní třeba CEO DataFriends Jan Chalas, CEO Appliftingu Vratislav Kalenda, programový ředitel Transparency International ČR Ondřej Kopečný, spoluzakladatelka #HolkyzMarketingu a #HolkyzByznysu Pavlína Louženská nebo třeba zakladatel Data & Business VŠE Ota Novotný.

Celý výtěžek ze vstupného navíc půjde na dobrou věc – Fórum mobilních hospiců.

Máte memes nebo vtipné obrázky, o které se chcete podělit? Pošlete nám je na michal@fenekpr.cz

📅 Kalendář datových akcí

Následující týden:

Pak:

📰 Novinky, linky a drby

Blíží se další pokus prosadit Chat Control!

Je to zhruba rok, co se podařilo zablokovat přepracovaný návrh evropského nařízení zavádějícího kontrolu online obsahu přezdívanou Chat Control. V těchto dnech je však znova na stole v lehce modifikované variantě  – Dánsko, které od 1. července předsedá Evropské unii, si jako jednu z priorit svého předsednictví stanovilo právě jeho prosazení.

Podle tohoto nařízení by měli provozovatelé jakékoliv elektronické komunikace, cloudových úložišť, VPN, sociálních sítí nebo webhostingu povinnost kontrolovat všechna data, která procházející přes jejich službu, jestli náhodou nemají souvislost se zneužíváním dětí – ať se už jedná o jeho vyobrazení, či pouhou zmínku o něm. Tím se liší od přepracované verze z roku 2024 – ta kontrolu textu vypustila. Jediný, na koho by se nařízení nevztahovalo, by byly nekomerční aplikace a služby. Kromě toho by také ukládalo internetovým vyhledávačům nezobrazovat stránky s tímto obsahem a poskytovatelům internetového připojení k nim zamezit uživatelům přístup. 

Navíc by nařízení zakazovalo dětem mladším 16 let využívat jakékoliv aplikace nebo online služby, které mohou být jakkoliv zneužity k obtěžování dětí – tedy vpodstatě cokoliv, přes co lze komunikovat, od messengerů přes online hry schatem až po zpravodajské weby s komentářovou sekcí. Zároveň by to znamenalo povinnou kontrolu věku na internetu – a tedy i absolutní konec anonymity.

Přestože návrh nařízení výslovně nezmiňuje využití umělé inteligence, ukládal by provozovatelům ke kontrole obsahu využít nejúčinnější prostředky přiměřené jejich možnostem. Minimálně pro větší firmy a technologické giganty by tak využití AI bylo de facto povinné. Nejlepší alternativou ze staré školy by totiž bylo porovnávání dat sdatabází známého závadného obsahu. To by ale pochopitelně neodhalilo nové materiály, jejichž zachycení by bylo z hlediska ochrany dětí před aktivním zneužíváním potenciálně nejpřínosnější.

Obsah, který by byl umělou inteligencí označen za potenciálně závadný, by musel být povinně předán příslušnému policejnímu orgánu k prošetření. Lidská kontrola obsahu neveřejné elektronické komunikace ze strany soukromé společnosti je totiž z důvodu ochrany práva na soukromí a listovního tajemství naprosto nepřípustná – Evropská unie nedovolí, aby někdo pošlapával vaše práva garantovaná Listinou základních práv EU. Tedy pokud se to nerozhodně dělat sama.

Pokud by totiž vešlo nařízení v platnost, jakákoliv vaše soukromá konverzace by potenciálně mohla být umělou inteligencí vyhodnocena jako podezřelá a následně předána k lidské kontrole. Cizí člověk by si četl vaše soukromé zprávy. To, že by byl od policie, a ne ze soukromé firmy, by vám pravděpodobně bylo dost chabou útěchou.

Nedej bože, pokud byste si třeba s partnerem vyměnili intimní fotografie – unich by bylo riziko označení za potenciálně závadný obsah opravdu vysoké. Apokud by se tak stalo, opět by je uviděl někdo, komu byste je rozhodně ze své vůle neukázali. Zapomenout byste také mohli na advokátní nebo lékařské tajemství, pokud byste se stěmito odborníky rozhodli na dálku spojit jinak než poštou či klasickým telefonním hovorem.

Okřídlené rčení říká, že pokud vám chce stát (nebo v tomto případě jejich unie) sáhnout na vaše práva, záminkou je vždy buď ochrana dětí před zneužíváním, nebo boj proti terorismu. V tomto případě na sebe ani boj proti terorismu nenechal dlouho čekat. Okamžitě se totiž vyrojili politici, podle kterých bylo šikovné zahrnout rovnou i tento druh závadného obsahu – rozšířit předmět působnost nařízení by přece bylo tak jednoduché!

A právě v tom tkví další jeho problém – rozšířit předmět jeho působnost by bylo opravdu jednoduché, a to nejen o terorismus. Není tak vyloučeno, že by vbudoucnu nařízení mohlo bobtnat o další a další oblasti sledování, samozřejmě scílem páchat více a více dobra.

Jenže s takovým nástrojem by šlo napáchat hodně a hodně zla. Je naštěstí vysoce nepravděpodobné, že by se z Evropské unie například stal autoritářský režim perzekvující občany za jejich disentní názory včetně těch vyjádřených vsoukromých konverzacích, nástroj by k tomu ale měla perfektní. Konec konců, Číňani by mohli vyprávět – tedy vlastně nemohli, AI by je rychle vyhmátla.

Přijetí tohoto nařízení by také de facto znamenalo povinnost prolomení end-to-end šifrování – zašifrovaná data totiž pochopitelně nelze kontrolovat. Proponenti tohoto nařízení však přišli se zdánlivým řešením, jak šifrování zachovat – scanovat obsah přímo na koncovém zařízení uživatele před jeho zašifrováním. Jenže scanovat neznamená prověřovat.

Provádět kontrolu čistě na koncovém zařízení je totiž v současné době naprostá utopie. Všechny dnešní AI modely určené pro koncová zařízení totiž mají společné dvě věci: Zaprvé jsou kvůli své titěrné velikosti více méně nepoužitelné pro takhle komplexní a hlavně citlivý úkol – nevyhnutelně by generovaly chybné závěry jako naběžícím páse (a policii doslova zahltili falešně pozitivními nálezy). 

Zadruhé nejsou dostatečně miniaturní a během maximálně několika desítek dotazů vycucnou celou baterii libovolného mobilu nebo notebooku. Není to ani optimalizační úloha – i ten nejmenší plus mínus (za vydatného finetunování) použitelný model Gemma 3n vám absolutně zdecimuje baterku telefonu během pár zkontrolovaných obrázků nevalného rozlišení. Nehledě na to, že výkon těchto zařízení ani zdaleka nestačí k tomu, aby plně lokální AI prověřování probíhalo v reálném čase.

Reálně jsou tak na stole dvě řešení, kdy se obsah sice scanuje na zařízení, ale vyhodnocení už ale probíhá v cloudu. Prvním variantou by bylo zprávy ještě před zašifrováním pro jejich zamýšleného příjemce zašifrovat pro poskytovatele AI kontrolního mechanismu a odeslat mu je ke kontrole. Ten by je rozšifroval a obsah zkontroloval.

Druhou variantou je porovnávání scanovaných dat s databází známého závadného obsahu, respektive hashů scanovaných dat s databází hashů závadného obsahu. Díky hashování je tato varianta bezpečnější, protože kontrolní nástroj nikdy nedisponuje dešifrovanými daty, a tak může útočník nanejvýš získat informaci, zdali jsou původní scanovaná data v databázi nebo ne. Pro maximalizaci bezpečnosti by navíc bylo možné zahashovaná data před odesláním na kontrolu zašifrovat asynchronní šifrou. Tato varianta je ale naprosto bezzubá proti nežádoucímu obsahu, který se nenachází v databázi.

Obě dvě varianty však mají i přes implementované zabezpečení stejný problém. Mezi zmáčknutí tlačítka „odeslat“ a zašifrování zprávy pro jejího adresáta vkládají backdoor a tím vytvářejí potenciální vektor pro kyberútok. Skutečným hackerským jackpotem by bylo získat přístup ke kontrolnímu nástroji nebo k rozšifrovaným kontrolovaným datům.

Takový úspěšný útok by mohl potenciálně ohrozit všechny uživatele, kteří byli tímto nástrojem kontrolováni. Představte si, že by byl například napaden nástroj kontroly WhatsAppu – to by znamenalo 45 milionů potenciálně ohrožených uživatelů. Toto riziko by bez backdooru vynuceného tímto nařízením vůbec nemohlo vzniknout.

Oproti značnému riziku je potenciální přínos tohoto nařízení přinejmenším diskutabilní. Jediným jeho efektem, který nastane opravdu jistě, je zmizení postihovaného obsahu zplatforem, které by se nařízením řídily – pokud nanich někdy vůbec ve větší míře byl. Přece jenom pokud už má někdo tak zavrženíhodný koníček, jako je dětská pornografie, většinou se mu ze strachu z ruky zákona už dávno věnuje na dark webu – a na ten je toto nařízení krátké. Tor Browser datový tok šifruje, ještě než opustí počítač, a Chat Control se na něj jakožto na nekomerční program nevztahuje.

Zároveň by byl problém s vymahatelností tohoto nařízení. Většina velkých platforem, jako je například Instagram nebo WhatsApp, by sice pravidla s nejvyšší pravděpodobností implementovala, protože mají finanční zájem oficiálně působit naevropském trhu, spousta menší platforem a aplikací by se zněj však „oficiálně stáhla“, jak například dopředu avizoval Signal. 

Neexistuje však způsob, jak uživatelům z Evropské unie účinně zabránit tyto aplikace využívat. Stejně tak nelze efektivně vymáhat, aby nepoužívali celosvětové verze aplikací místo jejich evropských mutací s požadovanou kontrolou.

Na své počítače sitotiž uživatelé můžou instalovat, co chtějí. Stejně tomu je u telefonů, včetně těch od Applu – paradoxně díky Digital Markets Actu, kterým Evropská unie nařídila výrobcům telefonů umožnit sideloadování aplikací. Pro kohokoliv technicky zdatnějšího tak nebude problém Chat Control obejít.

Co ale může za jeho návrat, když minulý rok ztroskotala i jeho měkčí varianta, proti které se zvedl masivní odpor občanů? Nové rozložení sil a staré tváře!

Rozložením sil v Europarlamentu pochopitelně zamíchaly loňské eurovolby. Co bylo ještě minulý rok neprůchozí, pro to by se možná letos mohla najít většina. Částečně se také obměnila Evropská komise, její nejvýraznější tvář, předsedkyně Ursula von der Leyen, ale zůstala. A právě od tam vítr vane.

Dalo by se říct, že cenzura internetu je její dlouholetou vášní a nikdy se tím netajila. Svého času si jako dosluhující ministryně pro rodinu vysloužila od Němců přezdívku Zensursula (Cenzursula), když její neskrývaná touha cenzurovat internet kulminovala v roce 2009 v předložení návrhu zákona, který by poskytovatelům internetového připojení ukládal blokovat webové stránky, které jim určí Spolkový kriminální úřad. Důvodem byl, jako obvykle, boj proti šíření záznamů zneužívání dětí.

Mimochodem, zákon byl pár měsíců před volbami opravdu schválen, prezident jej však podepsal až po volbách. Nato nová vláda okamžitě přikázala Spolkovému kriminálnímu úřadu, aby zákona nevyužíval, a po dalším roce jej dokonce zrušila. Není divu, určovat weby, které mají být cenzurovány, úředním rozhodnutím policejního orgánu, není v právním státě úplně standardní.

Ursula von der Leyen tuhle první velkou bitvu sice nakonec prohrála, svých postojů se však držela celé roky. Když pak byla v roce 2019 zvolena do čela Evropské komise, otevřely se jí nové možnosti. Zároveň našla na evropské úrovni našla řadu spojenců jako například bývalou eurokomisařku pro vnitřní věci a migraci Ylvu Johansson, která návrh nařízení v roce 2022 předložila. Současný pokus o jeho prosazením je tak jen logickým pokračováním této snahy.

Aby bylo toto nařízení přijato, musí jej schválit Rada EU (jednotlivé státy zastupují ministři, pod jejichž agendu návrh spadá) a Evropský parlament. Na úrovni Rady EU musí být pro aspoň 15 z 27 členských států, a zároveň tyto státy musí tvořit nejméně 65 % populace Unie. Evropský parlament pak rozhoduje prostou většinou.

V tuto chvíli podporuje nařízení 15 států, 7 se zatím nerozhodlo a pouze 5 jich je proti – mezi nimi i Česko. Dá se tak očekávat, že Radou EU návrh projde. Evropský parlament je naštěstí úplně jiná písnička. V rámci něj podporuje návrh v podstatě jenom frakce Lidovců, jejíž je Ursula von der Leyen členkou. I když je ze všech frakcí největší, má pouze 188 poslanců z celkových 720. Pokud se jí tak nepodaří přesvědčit ještě jednou tolik poslanců pro podporu návrhu, máme snad od Chat Control na dalších 5 let pokoj. Je ale téměř jisté, že se v dalším volebním období vnějaké formě zase vrátí.

Další novinky:

Články, papery a newslettery:

Data gossip:

Podcasty, videa, přednášky:

Random trivia

Věděli jste, že to, kam ptáci na zimu migrují, se podařilo potvrdit díky šípu v krku čápa?

Že jsou ptáci každou zimu fuč, si všimli už lidé ve starověku. Říct ale, že věděli, žeptáci odlétají, natož kam, je poněkud silné tvrzení.

Aristotelés byl například přesvědčen, že se někteří ptáci na zimu proměňují v jiné – například rehci v červenky. Rehci totiž odlétají do teplých krajin ve stejnou dobu, kdy ze severu do Řecka stahují červenky. Kromě toho tvrdil, že jiní ptáci, například vlaštovky a luňáci, přes zimu hibernují zahrabaní v zemi – a že to na vlastní oči viděl. A protože byl Aristotelés pro pozdější učence autoritou ze všech nejvyšší, staly se tyto představy mainstreamem a s drobnými obměnami se udržely další stovky let.

Přesto ani ve starověku nebyla ptačí migrace úplně neznámým konceptem – zmiňuje se o ní například Starý zákon, stejně tak otec dějepisu Hérodotos nebo básník a filosof Hésiodos. Nakonec i Aristotelés pozoroval, že se někteří ptáci stěhují na zimu za příhodnějším klimatem, a dokonce si i všiml, že se na jaře vrací znatelně hubenější. Jedním takovým ptákem byl čáp, u kterého popsal migraci zeuroasijských stepí do mokřadů v horním povodí Nilu.

Ještě zajímavější pro náš příběh je zmínka v Iliadě. V ní Homér přirovnává trojskou armádu k „čápům, kteří utíkají před zimou a krutými dešti, letí za okraj světa a svádí boje s Pygmeji.“ Že se po staletí jednalo o zažitou představu dokazuje i fakt, že totéž uvádí i pozdější římský přírodopisec Plinius starší ve svém spise Naturalis historia. Podle něj Pygmejové bojovali s čápy luky a šípy (a také že dobitvy s nimi jezdili na kozách a beranech).

Nejpozději v raném novověku už byla teorie migrace všeobecně přijímaná, i když se pořád držely mýty o hibernaci některých druhů – zejména vlaštovek, které měly přezimovat na dně rybníků. I když se vědělo, že ptáci na zimu někam odlétají, nebylo stále jasné kam.

To se změnilo až na jaře roku 1822, kdy byl poblíž německé vesnice Klütz spatřen čáp, který se vrátil z teplých krajin s dlouhým šípem zabodlým v krku. Majitel místního panství Christian Ludwig von Bothmer jej nechal ulovit a poslat nanedalekou Rostockou univerzitu k prozkoumání. Tam zjistili, že 76 cm dlouhý šíp byl vyroben z tropického dřeva stromu rostoucího ve střední Africe. Čáp tak musel během své cesty do teplých krajin uletět minimální 3 000 km.

Tato tropická dřevina navíc roste právě v horním povodí řeky Nilu, které jako místo zimování čápů určil Aristotelés. A vzhledem k tomu, že bylo od roku 1822 zaznamenáno okolo 30 případů čápů, kteří se ze své zimní dovolené vrátili probodnutý se šípem v těle, je docela možné, že právě takovéhle výjevy inspirovaly legendy o Pygmejích bojujících s čápy.

⚒️ DATA JOBS

Jestli vaše firma hledá někoho na pozici spojenou s daty, pošlete nám odkaz na inzerát na michal@fenekpr.cz a my ho rádi zveřejníme.

Data jobs taky taháme ze stránek partnerů, Startupjobs, Cocumy, z newsletteru prg.aia vlastě odkudkoliv se dá.

Chcete si přečíst naše starší newslettery? 

Někdo vám newsletter přeposlal a vy jej chcete taky dostávat?

Data Talk není pay to play! Pokud chcete sdílet svoje know-how či obsah od vaší firmy, napište nám!

A pokud vás naše práce baví a poskytuje vám hodnotu,

můžete nám poslat finanční podporuna kafe!