Podcast

Dobrý den, moje jméno je Jirka Vyšrek.
Dobrý den, já jsem Šimon Kurhajský.
A vítáme vás u dalšího dílu Datatolku.
Naší dnešní hostkou je Teresa Tížková, founding member a head of DevRel v E2B.
Ahoj, Terezo.
Ahoj, Jirko, ahoj, Šimone. Děkuji za pozvání.

Dnes se chceme bavit o minulosti, přítomnosti a budoucnosti nadějného českého startupu E2B, jehož jsi founding member, a o tom, jak jsi k němu přišla a co pro něj teď děláš.

Tak jak jsi k němu přišla?

Moje story je možná trochu komplikovaná a mix různých věcí. Můj background je původně z ekonomie a marketingu, potom jsem pokračovala na matematiku. Hned po škole jsem nastoupila do McKinsey jako konzultantka ve velké poradenské firmě. Tam jsem pracovala asi rok a už během té doby jsem hodně přemýšlela o tom, že bych chtěla do nějakého startupu. To byl vždycky můj sen – být součástí malého týmu, mít velký vliv na to, jak se věci mění a staví, a mít svobodu ty věci tvořit a rychle realizovat.

Takže jsem se už rozhlížela, bavila jsem se se startupy, sledovala vše kolem, kdykoliv byla nějaká startupová akce nebo někdo chtěl na kafe, hned jsem se do toho vrhla. Dokonce jsem si představovala, že mě baví startupy, i když jsem vlastně ani pořádně nevěděla, co to znamená.

A pak jsem narazila na Vaška a Toma, kteří jsou founding members E2B. Propojil nás jejich investor, který mi tehdy napsal něco jako: „Jsou dva, jsou na začátku, letí do San Francisca, zní to dobře,“ nějakou útržkovitou zprávu na messenger.

V té době jsem pracovala v McKinsey na projektu pro chorvatského manažera, o detailech už ani nevím. Věděla jsem však, že buď půjdu na to kafe s Vaškem, nebo udělám nějaké slidy, které jsem měla odevzdat. Nakonec jsem si řekla, že kafe je lepší příležitost, a vyrazila jsem na něj během oběda s Vaškem, který je nyní CEO E2B. A tím to celé začalo.

Ale nikdy jsi se nevrátila do Brna?

Ne, po tom kafi jsem byla úplně nadšená. Samozřejmě ty slidy nebyly perfektní, ale říkala jsem si, že šance jít na kafe je větší než dělat dokonalé slidy. Na tom kafi mě Vašek hodně zaujal – jednak svým technologickým porozuměním tomu, co kluci stavěli. I když to ještě vůbec nepřipomínalo to E2B, jaké je dnes, bylo vidět, že je chytrý a má vizi. Navíc jsme si sedli i díky tomu, že pochází z Matfizu, stejně jako já. Ale oproti jiným matfizákům, kteří jsou sice šikovní, měl i byznysovou intuici a jasnou představu, jak chce startup stavět. Nebylo to jen o tom, že mi hodinu popisuje něco technického, ale…

(pokračování podle původního textu)

Tady je opravená verze textu:

Tam nebylo úplně jasné, co bude dál, ale on už měl fakt jasnou představu, co chce dělat, proč to chce dělat v San Franciscu, co bude následovat a jaké jsou další kroky. To mě hodně přesvědčilo a získala jsem díky tomu důvěru, samozřejmě i nějaké sympatie – myslím, že ty tam vždycky jsou. Nevím úplně, čím jsem zaujala já Vaška, říkal mi, že jsem pravděpodobně kladla dobré otázky. Neměla jsem ale technické zázemí, v McKinsey jsem spíš dělala byznys consulting a strategii. Matematika je hodně abstraktní – je to moje láska a ráda ji dělám, ale protože jsem přeskočila bakalářské studium, minulo mě programování a podobné věci. Takže jsem spíš představovala určitý potenciál, že se programování doučím.

Pak jsme si ještě asi dvakrát volali, jednou i s Tomem, druhým spoluzakladatelem, který je teď CTO. A pak jsem už koupila letenku. Rodiče se trochu báli, ptali se, proč letím za dvěma kluky a proč dávám výpověď. Jo, mají obavy, to znám. Dokonce si tehdy vyhledávali Vaška a Toma na LinkedInu a koukali na jejich fotky, jestli nevypadají podezřele. No, nakonec jsem asi do dvou týdnů skončila v McKinsey a letěla za nimi do San Francisca. Poprvé v životě jsem letěla do Ameriky. Vyzdvihli mě tam na letišti a jeli jsme do E2B, což jsem poprvé viděla naživo. Hned potom jsme jeli do jejich Airbnb, kterému říkali hacker house. Viděla jsem všude billboardy – ne reklamy na běžné věci, ale na Verso, Apple, Google, jak chránit svá data, jak něco budovat a tak dále. Pro mě to byl úplný sen.

Po třináctihodinovém letu jsme objednali nějaké jídlo – mastnou asijskou kuchyni jako první americké jídlo – a hned jsme začali něco kreslit na whiteboard, plánovat a pracovat. To bylo přesně to, jak si představuju život ve startupu: pořád se něco děje. To byl tedy začátek.

Pokud to máme zařadit v čase – bylo to před rokem a půl. To první kafe jsme si dali myslím koncem dubna nebo začátkem května 2023 a 2. nebo 3. června 2023 jsem za nimi přiletěla.

A když říkáš, že měli tu vizi a že tě to oslovilo, jak moc to bylo relevantní pro tebe? Jak moc ses v tom pohybovala? Na první pohled mi dnes E2B přijde hodně technologická a pochopit její hodnotu není jednoduché pro někoho zvenčí, kdo není z technologického světa. Jak na tebe to působilo? Nebo spíš šlo o tu fázi startupu a energii zakladatelů?

Pokud chceš, můžu text ještě dále upravit nebo zestručnit.

Tady je opravený a upravený text:

Vlastně nějak v listopadu 2022 přišlo ChatGPT, nebo začalo být víc populární, a potom, myslím, na jaře 2023 přišlo AutoGPT, což byl takový projekt, který lidé moc běžně neznají. Je to open source projekt, který má být něčím jako autonomní verzí ChatGPT. Začalo se tomu říkat AI agent – byl to vlastně první případ, kdy si vývojáři řekli: „Wow, tady prostě ten ChatGPT nebo podobní asistenti mohou být mnohem autonomnější, můžou sami dělat všechno možné na vašem počítači.“ Tohle je budoucnost.

Já jsem tohle trochu sledovala, píšu ve volném čase blog, a tam se snažím o těchto tématech učit tím, že o tom něco napíšu, protože mě to donutí to pochopit. Snažila jsem se tedy pochopit, jak funguje ChatGPT, transformery, neuronové sítě – vždycky jsem si o tom něco přečetla a napsala. Myslím, že i pro kluky to bylo ukazatelem, že mě to aspoň trochu zajímá, takže jsem se o to zajímala a bylo mi jasné, že je to velká věc. Aspoň jsem si to tehdy myslela, a myslím si to pořád.

Už jsem tedy měla určité povědomí, a když pak Vašek začal mluvit o AI agentech a o jejich budoucnosti – původně s Tomem stavěli nějakou platformu pro agenty. Nebylo to nic podobného tomu, co je teď E2B, ale už tehdy to bylo něco, co třeba jiní lidé dodnes staví a co je relevantní. Pak jsme z toho pivotovali, ale nebylo to nic mimořádného, spíš něco, co dávalo smysl a co ukazovalo, kam se trh bude vyvíjet.

Samozřejmě jsem neznala všechny technické detaily, nadšeně jsem si dělala poznámky a vše si studovala. Nebyl to nápad na nějaký náhodný šílený startup, kterých je už spousta, ale opravdu něco nového. Navíc v té době kluci měli už investici, a je zábavné, jak se všichni řídí podle investic jako podle měřítek. Mně to došlo až zpětně, že vlastně měli poměrně velkou investici vzhledem k tomu, v jaké fázi byly, ale tehdy mi nepřišlo, že by to byl nějaký zásadní faktor – prostě jsem věděla, že jsou v pohodě a že to může fungovat.

Chtěli byste tedy vysvětlit, co E2B dělá teď?

Ano, jak už jste řekli, E2B je hodně technické. Když to řeknu jednoduše, je to software pro vývojáře softwaru, což asi moc neřekne. Možná raději popíšu problém, který teď řeší u těch agentů, a nejdřív vysvětlím, co je AI agent, aby to dávalo smysl.

AI agent je nějaký asistent, který běží na velkém jazykovém modelu – budu říkat LLM, tedy Large Language Model. Je to aplikace, která interaguje s uživatelem jako s člověkem. Oproti například ChatGPT nebo jednodušším AI asistentům mají agenti typicky schopnost komplexněji přemýšlet ve více krocích a rozdělují práci na menší úkoly…

Pokud chceš, mohu pokračovat v opravě nebo úpravě další části textu.

Jasně, tady je opravená verze textu s lepší strukturou a přehledností:

Část, že umí reflektovat, že kombinují nějaký acting a reasoning, že jo? Plus že můžou používat nástroje, což znamená nějaké API, že můžou třeba chodit na internet, používat kalkulačku nebo jiné tooly, které si tam člověk připraví v tom kódu. To jsou agenti. Ten první, o kterém jsem mluvila, byl takový auto GPT, ale začalo jich být strašně moc. Začaly se stavět a používat různé LLM, nejen od OpenAI, ale už je teď víc LLM modelů. Prostě se to rozjelo, všichni v tom viděli budoucnost.

Agentům ale dělá problémy, že pro některé úkoly potřebují spouštět kód. A E2B je takové cloudové prostředí, kde se kód od těch agentů bezpečně a přirozeně spouští, a tam se procesy vlastně provádějí.

Můžu ještě použít nějakou metaforu, pokud to pomůže lépe vysvětlit. Nebo uvést konkrétní příklad, kde to už běží, aby to smysl mělo i z praktického pohledu. Kdo je třeba teď nějaký klient, co mu to usnadnilo?

Například existuje Perplexity, což je AI vyhledávač, který lze považovat za AI agenta – i když definice agenta není úplně striktní, spíš je to o vlastnostech. Do Perplexity napíšete třeba: „Udělěj mi graf,“ nebo „Predikuj, jak se budou vyvíjet moje data,“ nebo „Jak se vyvine nějaká akcie.“

Perplexity pak začne přemýšlet pomocí language modelu na pozadí, generuje strategii, jak by úkol vyřešil, začne psát návrh řešení. Když zjistí, že je potřeba kód, tak prostě začne generovat příslušný kód, aby úkol splnil.

Je to jako datový analytik ve firmě — dostane úkol od šéfa: „Udělěj mi report.“ Může to vymyslet nebo napsat nějaký skript a analyzovat data. Stejně tak to funguje u language modelů.

Dřív Perplexity nemělo možnost kód přímo spustit — člověk ho musel zkopírovat někam, zmáčknout „play“ a získat výsledky. Teď, když Perplexity využívá E2B, tak se ten kód spustí přímo v aplikaci. Běží tam tzv. sandbox, kde se kód bezpečně vykoná a rovnou vrátí výsledek — například obrázek, graf nebo jiný soubor, který se uloží.

Pokud chceš, můžu text ještě víc zjednodušit nebo upravit styl.

Tady je opravený text s lepší gramatikou, stylistikou a srozumitelností:

Tohle je jako ten dílek puzzlu, kterým je E2B v rámci AI workflow, řekněme. Jaká je výhoda toho, že to běží v sandboxu, místo aby si to Perplexity spouštěla na vlastním zařízení? Jo, tak samozřejmě – je možné to spouštět lokálně u sebe, třeba přes nějaký Docker nebo jiné alternativy, to je určitě jasné. Problém je ale v tom, že výstup language modelu je z podstaty věci stochastický – prostě by definition. Je to riskantní, co si tam člověk může přát, nebo co se ten LLM rozhodne provádět.

Jedna z výhod sandboxu je právě izolace – když se spustí, rozběhne se tam vlastně virtuální stroj (VM, virtual machine) v cloudu. My to děláme přes Firecracker od AWS, což je typ takového VM. Tím vznikne vzdálený počítač v cloudu, který je oddělený a izolovaný od hlavní aplikace.

Co to znamená? Když tam kód udělá nějakou neplechu, neovlivní to počítač uživatele ani jeho operační systém. Dnes už jsou projekty, kde si můžete spouštět kód přímo lokálně, ale co když vám to omylem přepíše data? Je to prostě riskantní. Tady je ta izolace v cloudovém sandboxu velkou výhodou.

Další výhodou je škálovatelnost: pokud chceme pro každého uživatele spouštět vlastní sandbox, tak těch instancí může být hodně. To se dá snadno řešit – Firecracker je navíc rychlý a umožňuje instalaci balíčků, přístup k internetu, nahrávání věcí a spouštění aplikací, zkrátka může dělat všechno, co byste dělali na běžném počítači.

Pokud bych to měl přirovnat k nějakému nástroji, říct, že jsme Kubernetes pro AI agenty, je to blízko, nebo je ten use case úplně jinde? No, nějakou dobu jsme říkali, že jsme AWS pro AI agenty, možná by šlo i říct Kubernetes, jednou jsme byli Verso pro AI agenty – zažili jsme více iterací. Takže asi tak nějak bych to popsal – stavíme totiž infrastrukturu.

A co je nejpřirozenější alternativou k E2B? Vývojáři, kteří k nám přijdou, si většinou snaží podobný systém stavět sami in-house. Pak třeba zjistí, že existujeme my. Typicky si to dělají přímo na AWS nebo nějakém jiném cloudu, kde si vytvoří vlastní sandbox infrastrukturu. Nebo i někdy přes WebAssembly – to je další způsob, jak to lze dělat.

Pokud chceš, mohu ti text ještě více upravit či zkrátit.

Jasně, tady je opravený text, zformulovaný plynuleji a s úpravami pro lepší srozumitelnost:

Nevím, existují různé přístupy, ale vlastně in-house řešení je teď asi největší alternativa. Jaké vývojáře teď obvykle používá E2B? Například Perplexity je široký agent, na kterého se může kdokoliv zeptat na cokoliv, takže musí být připravený udělat cokoliv a vypočítat cokoliv. Ale pokud chce někdo takového chudšího AI agenta, který si jenom volá svoje vlastní nástroje, je pro něj E2B pořád užitečné?

Asi nerozumím přesně tomu „chudšímu agentovi,“ který si pouze volá nástroje – to není taková plnohodnotná aplikace s front-endem? Že se nepíše vlastní kód, který by pak potřeboval váš interpret, aby proběhl bezpečně? Pokud agent nepotřebuje kód, podle mě nás plně nevyužije, jak by měl.

Na druhou stranu jeden z našich use case jsou takzvané evals, tedy evaluace – hodnocení a testování agentů, což je teď velké téma. Vývojář agenta často spouští různé verze a sleduje, která je lepší. A dělá to třeba tak, že agentovi dává programovací úkoly a pak porovnává výsledky. Toto je jeden z našich trochu jiných use casů – probíhá to v našich sandboxech, kde může běžet více instancí paralelně a izolovaně. Takže to není úplně aplikace pro koncového uživatele.

Na druhou stranu mi přijde, že pokud chceme, aby agenti nebo aplikace obecně dávali rozumný výstup, je ten kód fakt nutnost. Mnoho lidí si neuvědomuje, co všechno se děje, když na pozadí běží nějaký kód. Jeden z našich zákazníků je americká golfová asociace – což na první pohled není žádná technická organizace ani programátorská firma, ale i tam mají interního asistenta, který používá náš systém a také spouští kód. Takže kód je skutečně potřeba.

Říkala jsi, že když si spustím kód u sebe ve standardním prostředí, mohou nastat různé problémy. Jaká jsou ta rizika, která si lidé, co dělají prototypy, neuvědomují? Je to třeba něco jako „Prompt Injection“ nebo že model získá přístup k datům, na která nemá? Jaké jsou ty nejčastější problémy?

Popravdě nevím, jestli nastává takový informační rozpad nebo jak jsou časté ty „Prompt Injection“ útoky.

Určitě je velký problém s daty – žádná firma s rozumem nenechá své citlivé data přístupná komukoliv bez omezení. To, že se data dají napojit do cloudu izolovaně, mi přijde jako bezpečnější řešení. Firmy proto nechtějí řešení, kde jsou data ohrožená. Sice jsem neslyšela o případech, kdy by se LLM úplně „zbláznilo“ a například začalo měnit operační systém, ale spíš jde o to, že může…

Pokud chceš, můžu text ještě více zkrátit nebo upravit na konkrétní styl.

Tady je opravený text:

Stát v tom prostě z nuly na nějaké procento. No, tak myslím, že teď máme jasnější představu, co i tobě je a co děláte. Když se vrátím v čase, tak jsi vyprávěla, jak jste byli tři na Hacker Houseu v San Franciscu v kostně nazvaném Airbnbčku a jedli jste Ázii. Tak co vlastně stalo od té doby? Jaká byla ta startupová jízda za ten necelý rok a půl?

No, mě to hrozně připomíná, jestli znáte takový ten seriál Silicon Valley, tak přesně takhle to fungovalo nebo funguje. Myslím to v tom dobrém slova smyslu. Některé situace mi přišly hodně povědomé. Co se změnilo, je to, že jsme dospěli k produktu, který máme teď, za který už nám lidi platí, což na začátku samozřejmě tak nebylo. Takže jsme nějakou dobu prostě iterovali a testovali, co vlastně bude ten produkt. To byla právě ta výhoda, proč být v San Franciscu.

Hodně se třeba lidi ptají, proč je to tak důležité, jestli to fakt má smysl, jestli je to třeba kvůli potkávání investorů nebo tak – což pro nás smysl měl hlavně v té komunitě, která tam je kolem těch AI agentů, LLM a celkově technologií. A přišlo mi zajímavé zpětně, že když ti agenti začínali, tak se ty informace nedaly nikde najít, protože o tom ještě nikdo nic moc nestihl napsat. Maximálně tak na Twitteru vývojáři sdíleli, co staví, jak si klonují AutoGPT, co na tom postavili a jaké problémy mají. Ale pořád osobně to bylo nejlepší, že jsme měli ty informace dřív, než bychom je jinak dostali. Mohli jsme prostě mluvit s těma lidma a vlastně můžeme do teď. To je ta velká výhoda, že tam sedíme s těmi lidmi, kteří jsou naši zákazníci – vývojáři softwaru poháněného LLM – a můžeme se s nimi bavit a inspirovat se problémama, které řeší.

Podle mě je to jádro dobrého vedení firmy – že opravdu klademe důraz na to, mluvit s vývojáři a zjistit, co reálně chtějí, a řídit se podle nich v tom, co dál postavíme, jaké nové funkce přidáme. Takto to bylo od začátku – vždycky jsme měli nějakou hypotézu, ale museli jsme ji otestovat a dovědět se něco nového. To jsme dělali v prvních měsících, až jsme dospěli k tomu dílku puzzle, který řeší tenhle konkrétní problém.

Takže jsme hodně dělali, potkávali jsme se spíš individuálně s vývojáři, třeba jsme spolu nějak hackovali. Naopak jsme nechodili na meetupy nebo eventy jenom proto, abychom tam byli, což považuju za naši výhodu – měli jsme takové tunelové vidění a myslím, že ho máme dodnes. Navzájem se hlídáme, jestli fakt děláme to, co má smysl, a vynecháváme cokoli, co nám nepřipadá užitečné pro produkt. I když tam se toho děje strašně moc, potkávali jsme se hlavně s konkrétními jednotlivci a takhle získávali první uživatele a pak i první platící zákazníky.

Teď v současnosti nás je myslím osm, nejsem si ani jistá, protože teď hodně nabíráme lidi, ale dlouho jsme byli…

Pokud chceš, můžu pokračovat v opravě nebo úpravě dalších částí textu!

Jenom čtyři takoví jako core team – vlastně dva kluci, jako Tom a Vašek, ti foundři, potom já a ještě Kuba, náš první inženýr. A takhle jsme ve čtyřech vlastně celý ten rok fungovali, a až teď začínáme hodně nabírat lidi a začínáme to víc škálovat. Všechno roste a potřebuje to růst dál, takže všechno potřebujeme zvětšovat.

Můžeš se ještě zeptat na to testování hypotéz? Protože to zní jako velmi vědecký přístup k startupovému růstu. Jak jste ty hypotézy testovali?

Jo, to možná znělo hodně sofistikovaně, ale přijde mi to vlastně jako jasný přístup nejen v životě, ale i v tomhle způsobu práce – že…

Je strašně snadné založit firmu nebo nějaký projekt a říct si: „Hele, tohle je dobrý nápad, to se určitě bude lidem líbit.“ A často to tak i bylo, ale pak se zjistilo, že lidem se třeba něco nelíbilo. Neplatilo to jen u produktu, ale třeba i v mojí roli, což je takový mix devrel (developer relations), vztahů s vývojáři, komunity, marketingu a podobně. I v mojí roli šlo o testování hypotéz – třeba si řeknu: „Bude nám fungovat Twitter, LinkedIn? Bude fungovat postování na Reddit, na vývojářská fóra, nebo chodit na hackathony?“ Nemůžu si ale jen tak říct: „Hele, pojďme to dělat,“ jen abychom něco dělali, musím to otestovat. Musíme se poradit, říct si, co od toho chceme, co chceme, aby se nám vrátilo.

Protože mi přijde, že ve startupu je hrozně snadné být zaneprázdněný a říkat si, že něco dělám – vždy je co dělat, že jo? Ale často to není to, co dává smysl. Takže všechny ty věci, které rozhodujeme, musí mít nějaký cíl, který potom sledujeme, abychom ověřili, jestli cíl byl splněn. Hodně věcí jsme takhle díky testování nakonec vyškrtali – nejen u produktu, ale třeba i u marketingu, komunikace s vývojáři, jak komunikovat produkt, jak ho pojmenovat, jak psát dokumentaci. Na to všechno hodně přemýšlíme. Takže vlastně u všeho takto testujeme nápady.

Překvapilo tě, že něco fungovalo, nebo naopak, že nápad nefungoval, jak jsi čekala?

Přemýšlím. Asi po korporátu, nebo celkově v mojí životní cestě jsem musela přepnout do jazyka těch vývojářů. A překvapilo mě, jak moc oni jdou prostě k jádru věci – že jim je jedno, jestli něco napíšu pěkně, jestli se snažím to nějak hezky prodat. Zajímá je jenom, jestli to funguje, jestli to má hodnotu. Chtějí vždy vidět ten kód.

My jsme kompletně open source, což nám také hodně pomohlo, ale vývojáři jdou opravdu po kódu, po reálné informaci a hodnotě, což se mi strašně líbí. Protože jsem se s tím předtím nesetkala, tak jsem i komunikaci musela na tohle přizpůsobit.

Přemýšlím, co mě ještě překvapilo… No, asi celkově ta vývojářská komunita a její nadšení pro testování věcí. To nám taky hrozně pomohlo – že spousta technických lidí například o víkendech zkouší projekty, forkují je, vylepšují, nebo nám prostě dávají feedback…

Tady je opravený a stylisticky upravený text:

Když z toho lidi nic nemají, mě to hrozně naplňuje a fascinuje. Jsem za to vlastně moc vděčná a právě proto se mi líbí v takovém prostoru fungovat – protože ti lidé jsou tak nadšení. Přemýšlím, co dál. Když se podíváme do Silicon Valley, řekl bych, že i agenti budou jedním z nejžhavějších témat, že to budou jedny z těch cool věcí, které řeší spousta nových firem. Mám pocit, že ten stake a infrastruktura se fakt posouvají z týdne na týden, z měsíce na měsíc. Jak se vám v tom naviguje?

Měl bych hypotézu, že každý měsíc se na GitHubu objeví spousta projektů, které na první pohled vypadají jako e2b (end-to-business), ale jsou od lidí s lepší sítí kontaktů a podobně, takže to musí být velmi dynamicky se rozvíjející trh.

Jo, to je pravda. Velká část mojí práce, nebo práce nás všech, je sledovat, co se děje, protože to se opravdu hodně rychle posouvá, stejně jako ty samotné modely. Kdykoli vyjde nový model, všechno se zastaví, všichni běží domů a zkouší ho – testují, co umí, snaží se ho přidat do nějakého e2b příkladu. Neustále vycházejí nové paper-y, nové projekty na GitHubu, někdo na Slacku sdílí, že něco vyšlo, tak to zkoušíme. Nebo někdo postaví něco nového z e2b a sdílí to na Twitteru, a my se vždycky díváme, co to je.

Takže to rozhodně ano. Přijde mi, že pokud je člověk v tomhle prostředí každý den, je to vlastně fajn a jednoduché sledovat. Kdybych ale byla mimo a pak se najednou snažila v tom zorientovat, bylo by to hodně těžké. Jestli se objevují další e2b projekty, tak pravděpodobně z podobných důvodů, a myslím si, že kdyby to nikdo nedělal, bylo by to podezřelé.

Velké firmy už si začínají všímat tohoto problému – toho, co jsem zmínila, tedy spouštění kódu, kódová vrstva interpretera v celém textovém procesu. Je to vtipné, protože jsme na tom začali pracovat poměrně brzy a nějak jsme k tomu dokonvergovali, ale vlastně ještě loni…

Trh a agenti nebyli ani v tak dobrém stavu, aby to bylo pro větší hráče natolik atraktivní. Myslím, že všichni čekali, kam to doroste, a my byli prostě brzo. Problém nebyl v tom, že agenti spouštějí kód, ale že agenti možná ještě neuměli kód psát. To prostě ještě nebylo dostatečně připravené.

Ano, to je taky pravda – my jsme řešili spouštění, ale generování kódu je úplně jiný problém a pořád velká výzva, aby agent kód psal dobře. To je něco, co sami nezvládneme vyřešit. Dokážeme pomoct s tím, že se kód spustí a agent si může dát reflexi na výsledek, ale generování kódu byl stále problém.

S novými modely se však situace zlepšuje a posouvá. A nejen to – i to, jak se agenti staví, a všechny ostatní nástroje, které loni začínaly – například monitoring, sledování agentů, evaluace – to všechno se také vyvíjí spolu s nimi. Takže se to opravdu posouvá dál…

Pokud chcete, mohu vám ještě pomoct s další úpravou nebo rozčleněním textu.

Tady je opravená verze textu:

Postupně se to celé zlepšuje. Už se to nějak jako vytřídilo, hodně věcí skončilo a teď je to celé jasnější. Jen bych se vrátil k tomu open source – všiml jsem si, že vy jste vlastně zcela plně open source, nejen co se týče produktu, ale i třeba vaší infrastruktury a terraformových šablon. Čím se vlastně lišíte od firem, které jsou tak trochu open source v datovém světě? Třeba dbt Labs nebo Dexter Labs mají hlavní produkt open source, ale spoustu věcí kolem mají uzavřených. Jak se vám v tomhle žije?

Na začátku jsme open source infrastrukturu neměli, měli jsme vlastně takový podprodukt – jak jsem už nezmínila – dvě SDK, kterými se ovládají sandboxy, prostě balíček nástrojů na to. Ty SDK byly open source, ale infrastruktura byla open source až později. Dávalo nám to smysl, v rámci celé vize a toho, co jsme slyšeli od vývojářů. Přišlo nám to jako smysluplné rozhodnutí. Taky pokud je trh nový, umožňuje to lidem dávat připomínky, zapojovat se a přispívat, stavět na tom, což bylo pro nás hlavně v začátcích hodně důležité. Stále jsme tím hodně inspirováni, sledujeme, co lidé na tom staví, takže je to pro nás určitě přínosné.

A jak moc je to vlastně marketingová výhoda? Že v tu chvíli spadáte do určitých žebříčků, jste v jiné kategorii, víc vás doporučují na forech, a tak dále. Asi je ta šířitelnost, nebo viralita, když to přeháním, vyšší. Vidíš, že díky tomu máte větší adopci, ale potom třeba, a k tomu se dostaneme, se těžší konverzi na platícího zákazníka?

To je dobrá otázka. Určitě to je dobře přijímané, že jsme open source. Myslím si ale, že jedna nevýhoda v začátku byla ta, že bylo spousta open source projektů a možná to lidi nebrali tak vážně. Říkali si „jo, je to open source“, ale samotné hvězdičky na GitHubu zase moc neříkají, a musí to mít hezkou landing page, dobrou dokumentaci, na čemž také pracujeme. Nestačí jenom být open source.

Co se týče konverze na platící zákazníky – není to těžší, když mají velkou hodnotu zadarmo a nemají důvod platit?

Máme asi dvě kategorie zákazníků. Jednak jednotlivé vývojáře, kteří nás používají, staví na tom něco, nejsou to velké firmy, spíš nadšenci nebo ti, kdo teprve začínají. Pak máme kategorii platících zákazníků, tedy větší firmy, jako třeba Perplexity, které mají větší množství sandboxů a mají své zákazníky. Jednotliví vývojáři často mají menší produkty.

Máme dva týmy. I v tom hobby týmu uživatel platí, platí za výpočetní výkon, tedy za CPU a RAM u sandboxu, liší se jenom množství.

Pokud chcete, mohu text ještě upravit stylově podle konkrétního účelu (formální, neformální).

Jich může naráz pustit a jak dlouho ten sandbox může běžet, jaký support od nás má — vlastně liší se to tam potom v nějakých dalších pravidlech, ale všichni nám pak začnou platit za užívání, tedy že nám platí za to, že ten sandbox běží nějakou dobu, a podle té doby se to počítá.

Takže tak. V tuto chvíli monetizujete a máte nějakou marži nad runtime toho AVSka. Jo, dá se to takhle říct. Máme tam vždycky nějaké kredity na začátku a pak se to počítá na sekundy, jak ten sandbox běží. Počítá se tam CPU za sekundu a také RAMka za sekundu. To se nějak propočítává. Takže jo.

Jaké jsou třeba příklady těch agentů, které na vašich korporátních nebo hobby klientech postavili? Jak jsem už říkala, Perplexity, což je vyhledávač, je známý příklad agenta, který podle mě teď funguje. Dalším hodně populárním příkladem agentů jsou workflow automations, tedy automatizace různých procesů ve firmách. To dělá třeba Zapier, ale také Make, Manaflow, Gumloop a spousta dalších firem, které mají znaky agentů.

Myslím, že je dobré si uvědomit, že agenti se spíš stávají funkcí v produktu. To je cesta, která má teď logiku. Zpočátku totiž všichni brali agenty jako robota nebo software, který dělá úplně všechno. Dneska je tam trochu ochlazení a vývojáři si uvědomují, že agent je sice cool, ale je dobré ho omezit, pohlídat a postavit kolem něj produkt, který není stochastický. Agent je pak jen jedna funkce, kterou ani koncový uživatel nevidí nebo ho to nemusí zajímat.

Třeba u těch automatizací jsou v workflow různé kroky a v jednom z nich je třeba datová analýza, kde agent rozjede svou „magii“, ale zbytek je normální produkt, který AI není. Takže to jsou populární use cases.

Po uvedení nového modelu OpenAI o verzi 1 se zase hodně mluví o agentech jako byl třeba Devin — software engineer agent, který programuje. To je momentálně populární, ale nevím, jak moc se to používá v produkci nebo jak moc za to někdo platí.

Stejně tak další agenti, kteří ze začátku uměli objednávat letenky, starat se o kalendář, chodit do mailu a dělat úplně všechno, byli fajn jako demo, kde si všichni říkali, že to je super, ale dnes si nevšimnu, že by se takto často používali nebo za to lidé platili a používali to denně.

Pořád mi tohle připadá… (text končí).

Tady je opravený text, upravený pro lepší srozumitelnost a plynulost, přitom zachovávající neformální styl:

Je to trochu budoucnost, i když respektuji ty lidi, co to dělají. Myslím si, že je to zajímavé, ale nemyslím si, že je to teď například ten use case, který by už byl nějak běžně používaný. A kdo jsou vlastně vaši klienti, když se na to podíváme? Jak moc je to fakt early stage Silicon Valley? Jak moc jste už pronikli do jiných IT oddělení, třeba do enterprise segmentu? Koho tam máte? Kdo vám teda platí ty vyšší tarify?

Jo, teď už jsou to i střední a větší firmy, třeba PGA, kteří dělají golf nebo jiné sporty – ti jsou dost velcí. Jsou tam i startupy, ale u těch startupů často ještě pivotují, takže se teď bavíme spíš s většími firmami. A ano, větší firmy to už začaly používat. Třeba Gumloop nebo Manaflow – ty jejich workflowy. Některé klienty nechci prozrazovat, protože se s nimi ještě jednáme a nevím, jak je to veřejné, ale jo, už máme i větší zákazníky.

Obecně – jakou máte teď základnu? Nemyslím konkrétní čísla, ale ať si představíme rozsah toho, jak to roste, relativně, ne v absolutních číslech?

No, roste to exponenciálně. Čísla ze mě nedostaneš, ale měříme dvě věci: počet spuštěných sandboxů, což podle mě v absolutních číslech moc neřekne, ale občas to sdílíme – je to třeba řádově několik milionů celkem. Důležité je, že to opravdu exponenciálně roste. Dále měříme počet aktivních vývojářů a samozřejmě i nějaký revenue, kolik máme platících zákazníků, ale to je trochu komplikované, protože jeden zákazník může mít vysokou spotřebu, a naopak spousta jednotlivců s tím jen experimentuje, takže to není úplně všeříkající číslo. Ale rosteme a to je asi to důležité.

Když se zeptám z startupové perspektivy: budete za rok kodovým interpretem? Máš pocit, že jste ten produktový trh našli a že to je ten product-market fit, a teď už jen exponenciálně rostete? A i když se možná změní typ trhu nebo primární uživatel, tak tohle je váš prostor, kde zůstanete a budete to škálovat?

Jo, takhle to teď vypadá. Code interpreter je v podstatě přesně to, jak to nazýváme – ultimátní cloud runtime, nějaké prostředí, které podle mě má velkou budoucnost a dává smysl na něm opravdu stavět a zaměřit se na to. Nedokážu ale říct, jestli nepřijde nějaký překvapivý vývoj na trhu, který teď nevidíme, nebo jestli nepřijde někdo velký a něco zásadního nezmění, ale rozhodně si myslím, že v tomhle oboru budeme dál působit.

A teď ta chytrá otázka: co když si váš exponenciální růst všimne AWS a řekne si, že oni by taky chtěli tu exponenciální dynamiku?

Jo, to je chytrá otázka. Jaký máte plán proti takovému vývoji?

No, AWS si nás všimlo už loni…

Pokud chceš, můžu text ještě upravit stylově na formálnější, nebo naopak ještě uvolněnější. Stačí říct.

Zde je opravená verze textu s lepší srozumitelností, gramatikou a stylistikou:

Na začátku a vlastně i teď, když mluvíme s většími firmami, které o nás už něco slyšely, není to tak, že bychom se báli, že si nás všimnou. Oni si nás už všimli. Často zaznívá otázka, co se stane, když AWS vezme sto lidí a postaví to samé. A já si říkám, že to samozřejmě udělat můžou. Ale je tu otázka, proč to ještě neudělali. Jedna možnost je, že se možná báli, nebo že trh je zatím malý, nebo že na tom nějak pracují. Ale pak je tu ještě něco k zamyšlení — samotné fakt, že vidí, že to jde, nestačí. Nestačí jim vidět náš kód nebo myšlenku, protože firma není jen o nápadu. Myslím, že tohle je docela časté vnímání lidí.

Je to jako, když vidím produkt někoho jiného, třeba ne open source, ale dokážu pochopit část uživatelského zážitku, nějakou myšlenku — to snadno neokopíruju. Nebo když napíšu diplomku na Matfyzu, tak i kdyby ji někdo viděl, asi z ní nemá to samé. Myslím, že podobně je to s naším kódem — má svou historii, a to doslova, ale i metaforicky. Je to výsledkem výzkumu, práce, vztahů se zákazníky a také našeho týmu, který má know-how. Je v tom prostě spousta věcí. A mě také překvapilo, že asi není tak jednoduché přijít a udělat to samé. Nebo nechci prozrazovat příliš mnoho, ale myslím, že sjednání těch větších hráčů není tak jednoduché.

V rámci developer relations trošku budujeme komunitu. Jak vlastně komunita kolem E2B funguje? Jak se do ní lze připojit a co pro ni můžete udělat? Nejjednodušší cesta je udělat pull request. Máme ale i několik dalších věcí. Kromě toho, že máme open source hlavní produkt, máme i kuchařku, kde zveřejňujeme malé příklady, které pomáhají pochopit, jak E2B funguje a co se v tom kódu děje. Všechny tyto materiály jsou také open source.

Protože E2B je takové prostředí, kde se spouštějí procesy generované jazykovým modelem (LLM), neřešíme, jaký model to je, jak jej vytvořili, ani jaký framework je použitý — jestli je to LangChain, AutoGen nebo něco jiného. My pouze spustíme to, co oni vymysleli. To znamená, že fungujeme s jakýmkoliv jazykovým modelem a různými frameworky, například Verso AI SDK, LangChain, LangGraph a dalšími.

Naše kuchařka je proto zajímavá tím, že si každý může vybrat své příklady a ingredience do „receptu“. Může si proklikat příklady v Pythonu, JavaScriptu a přidat i vlastní příklad. Třeba pokud někdo používá svůj vlastní framework nebo nějakého specifického poskytovatele LLM, může ukázat, jak jeho nástroj nebo framework spolupracuje s E2B, a my to pak…

Pokud budete chtít, mohu text dále upravit nebo rozšířit.

Jasně, tady je opravený text s lepší gramatikou a stylistikou:

Jako s promem.

Uděláme společně nějakou spolupráci, takže ta kuchařka je určitě fajn způsob, jak se může někdo zapojit – může tam přidat nějaký příklad nebo nám dát nějaký nápad. Samozřejmě, kdekoliv v kódu uvítáme příspěvky, když někdo otevře nějakou issue, je to vždycky super. Potom máme Discord, kde je naše komunita, tam řešíme s lidmi hodně technické otázky. Na Twitteru hodně fungujeme, to je náš asi hlavní kanál. V San Franciscu pak osobně pořádáme různé hackathony a meetupy, nebo v našem domku, kde bydlíme, občas děláme takové neformální founderské večeře, takže to určitě taky. Dále máme menší produkty, na kterých například ukazujeme E2B trochu více přátelsky. Například teď jsou to Artifacts, což je generativní UI – frontendová aplikace v prohlížeči, kde si člověk napíše nějaký příkaz, vybere svůj oblíbený model a aplikace napíše a spustí kód, a rovnou třeba vyplivne náhled této appky, včetně frontendu. Je to hezký příklad, taky je to open source a taky se na tom dá přispívat. Takže vlastně všechno možné a jsme tomu hodně otevření, když nám někdo napíše, má dotaz nebo nápad, co bychom měli dělat – určitě, protože jsme malí, tak to nějak zvládáme.

Takže jsme mluvila o hackathonech a founderských večeřích v San Franciscu, vašem Hacker Housu. Jak to vlastně sedí, když tu někdo z Česka je, teď když vás je osm, jste vlastně US based a všichni ve Frisku, nebo jak to máte s US a Českem?

Jo, teď tu sedí hodně lidí, protože jsme hodně nabírali nováčky a někteří z nich byli poslední dobou v Evropě, takže jsme udělali týdenní onsite, kde se seznamujeme. Ale dlouhodobě jsme všichni v San Franciscu a plánujeme to tam stavět. Už teď tam najímáme lidi, kteří tam žijí, mají víza, občanství, nebo je pro ně tam fungovat snadné, alespoň většinu roku. Myslíme, že remote není dobrá cesta – nefunguje to kvůli časovému posunu a taky když chce člověk něco vyřešit, není to úplně ono. Proto to vidíme takhle. Možná časem budeme mít například českou pobočku, jak to dělá více technologických firem – že v San Franciscu má víc go-to-market část a tady spíš inženýry, tak uvidíme.

No a mám ještě jednu možná hloupou, ale štíravou otázku: co je vlastně ten největší technický a technologický challenge v tom, že vlastně spouštíte ten kód? Spuštění kódu v cloudu, cloud runtime jako takový je řešený problém, ty sama jsi říkala, že jste agnostičtí a neřešíte, co ten kód sám o sobě dělá. Tak co jsou ty největší výzvy? Je to security, nastavení prostředí pro nového vývojáře, nebo co je ta hlavní věc, která se ještě musí vyřešit? Myslíš teď na E2B?

Pokud chceš, můžu text ještě víc zkrátit nebo upravit do nějakého konkrétního stylu.

Text jsem opravil, aby byl gramaticky správný, plynulejší a srozumitelnější:

Musíš ještě zlepšit ten produkt, nebo obecně? No vlastně, co je ta hlavní výzva? Jestli teď dodáváte jen malé funkce, ale základ tam už je, a jen přidáváte nové featury, nebo jestli se trh bude vyvíjet a potřebuješ stabilní platformu. Jo, řešíme určitě víc věcí, třeba self-hosting nebo škálování infrastruktury celkově. Jinak ale myslím, že ten základ dává smysl, že tam není žádný zásadní problém, o kterém víme a který může náhle vybuchnout. Pak samozřejmě řešíme třeba certifikace a podobné formality, které větší firmy často vyžadují. A pak featury podle toho, kdo co chce – snažíme se prioritizovat podle konkrétních use caseů. Ale celkově myslím, že hlavní výzvou teď je škálování celé firmy.

Myslíš, že tahle hlavní výzva zůstane hlavní i v příštím roce nebo dvou, nebo se to vyvine? Kdybych si měla tipnout, tak zůstane stejná. Možná se objeví víc nějakých řešení, která to celé pomohou zvětšit a posunout dál.

Už teď vidím takový směr, že už nemusíme vysvětlovat lidem, proč je to důležité, což jsme třeba před rokem ještě museli. Dneska už je to vývojářům jasné, je to dobře známý problém. Myslím, že to povede k tomu, že větší firmy začnou implementovat AI agenty, postaví kolem toho více produktů a vznikne víc textového obsahu na toto téma. Určitě přijdou další jazykové modely – na to se těším a doufám v to. Generování kódu bude také mnohem pokročilejší.

Teď je trend, že například s příchodem OpenAI modelu O1 se kombinuje třeba s GPT-4 a dalšími modely. Modely se specializují – O1 například zvládá těžší úkoly („heavy lifting“), GPT-4 pak generuje kód. Takto se to kombinuje, takže existuje víc přístupů. Vůbec netuším, kam až se to může posunout, ale myslím, že to bude hodně jiné a přinese to mnoho překvapení.

Když jsi takhle u toho „hotspotu“, tam kde to vzniká, třeba v kavárnách, kde potkáváš zakladatele budoucích Googlu, co jsou teď hlavní témata nejen pro B2B, ale obecně na trhu? Co tady třeba ještě nejsme zachytili? Doporučil bys sledovat nějaké hashtagy na Twitteru, nebo něco podobného? Ani nevím, že se tam dají sledovat hashtagy, ale já jsem na Twitteru v takové agentní skupině (group chat), kde je hodně zakladatelů z San Francisca a dalších vývojářů a tam pořád něco řešíme.

Myslím, že velkým tématem teď jsou evaluace modelů. I když se modely hodně zlepšují, pořád v tom neexistuje úplný konsensus, jak testovat jejich kvalitu. To si myslím, že se hodně řeší.

Pak je tady generativní UI – jak kolem toho postavit frontend a produkt. To je určitě také velká výzva.

Pokud chceš, mohu text ještě upravit stylově podle cílového účelu.

Jasně, tady je opravený text s lepší strukturou a gramatikou:

No, přemýšlím, co dál. Nějaké vektorové databáze, jak tomu agentovi dát, že jo, dobrá data, jak mu dát prostě přesnější informace, to je určitě taky něco, co budu řešit. Asi jsem toho řekla dost. Taky kombo více modelů, třeba jak jsem říkala, a že i velké firmy začínají mluvit o tom, že chtějí jít tím směrem agentů. Asi tohle je ten trend. Přijde mi, že agenti prožívají takové vlny – vždycky jsou cool, pak někdo řekne, že jsou k ničemu, a jak se vlastně definuje, co to vůbec je. Pak někdo zase řekne, že agenti jsou budoucnost, například Microsoft oznámí, že chce jít „double down“ na agenty, a takhle se to mění. Myslím, že teď je hodně zpráv o tom, že velké firmy chtějí dělat agenty.

Jsou to multiagentní systémy? To je taky dobrá otázka. No, ty nejznámější jsou pořád AutoGen a Crew AI. Abych to shrnula – multiagentní systémy jsou populární frameworky, které kombinují více různých agentů s různými rolemi. To znamená, že mezi nimi může být nějaký systém promptů v kódu nebo jiné nástroje. Vím, že existují i výzkumy, které ukazují, že to může v něčem lépe fungovat, ale popravdě nevím přesně jak moc. Crew AI i AutoGen pořád rostou na popularitě, ale nevím, jak moc se používají v produkci, takže nemůžu úplně říct. Určitě je to jeden ze způsobů, jak přistupovat k agentům.

Myslím, že právě kombinační použití více modelů částečně nahrazuje tyto multiagentní přístupy, nebo i to, že model má na sebe nějakou reflexi – což teď třeba OpenAI GPT-4 má. Takže to trochu nahradí právě to, co dělá Crew AI, kde je dialog mezi různými agenty. Tohle je určitě dobrý způsob, jak dosahovat lepších výsledků.

Možná poslední otázka: Za ten rok a půl jsi toho stihla opravdu hodně. Kdybys si tehdy v McDonald's říkala, jak bude vypadat tvůj život v příštích dvou letech, dokážeš si představit, jak moc ses přiblížila své vizi? Je nějaká lekce, kterou bys poslala dál, nebo co bys doporučila lidem, kteří také uvažují o vrhnutí se do technologických startupů, mají podobnou vášeň jako ty tehdy a hledají inspiraci?

To je dobrá otázka. Určitě jsem měla velké štěstí, že jsem na to narazila, a jsem za to vděčná, hlavně za ten tým. Mluvili jsme o technologiích, ale lidsky ten tým funguje skvěle a myslím, že to je velký důvod, proč se nám některé věci povedly – ti lidi jsou fakt skvělí, respektuju je na všech úrovních. Asi bych poradila – nevím, jestli mám nějakou specifickou cestu, protože já sama jsem nebyla programátor či někdo podobný, ale i pro takové lidi jde vidět, že se člověk může naučit spoustu věcí za pochodu. Asi bych doporučila nějak „optimalizovat“ nebo trochu „hackovat“ štěstí, nevím, jak to přesně nazvat. To, že jsem se dostala do E2B, beru jako štěstí, ale zároveň věřím, že to štěstí se dá hledat a podporovat, že není jen náhodou.

Pokud chceš, mohu pomoci text ještě upravit nebo zestručnit.

Optimalizovat a zároveň zvyšovat počet příležitostí ke štěstí. To znamená, že pokud člověk chce dělat startup, měl by všude říkat, že chce dělat startup, napsat si na LinkedIn, že je startupový nadšenec, a podobně se takto prezentovat. Měl by se ptát kamarádů, já například jsem psala lidem, kteří dělali nějaké startupy nebo programovali, jestli by mi něco nevysvětlili, pokud jsem něco nerozuměla nebo mě něco zajímalo. Prostě jsem jim napsala, ať si dáme kafe, a všude jsem takto chodila. Přijde mi, že pak ta matematika štěstí pořád hraje roli, ale pravděpodobnost se zvyšuje, případně je to jen otázka času. To je podle mě to, co se dá dělat – jednak dělat věci, zajímat se o to, ale taky o tom komunikovat, protože si někdo vzpomene, že třeba zrovna hledá někoho takového, a ta příležitost se tak objeví.

Teri, moc děkuji, že jsi s námi tady sdílela svou cestu, konečně mi vysvětlila, co je e2b, a držím vám všem moc palce. Nedávno se mě ptal Matúš Pavliščák, kterého tímto zdravím, jako insidera, jaké jsou žhavé „up and coming“ české startupy, které stojí za sledování. Za prvé si myslím, že jich je bohužel málo, a za druhé, že jste to vy. Pokud někoho sledovat jako příštího šampiona naší technologické scény, sázel bych právě na vás i díky angel investorům, kteří do vás investovali. Takže moc držím palce a děkujeme.

Přesně tak, díky, že jsi přišla, a držíme palce.

Díky moc, děkuji za pozvání, bylo to super.

Děkujeme, že jste nás poslouchali až do konce.

A díky také našim partnerům a členům Data Talk klubu.

Těmi jsou:

• Impex
• Saska
• Beastreet
• Colors of Data
• Revolt BI
• Good Data
• Kabula
• Emark
• Carl Data Company
• Data Mind
• Notino
• A Flo

Pokud chcete být v obraze ohledně české datové scény a globálních datových technologií, nezapomeňte se zaregistrovat k odběru našeho týdenního newsletteru na datatalk.cz.

Nechť vás provází data.