Newsletter

#177 Agenti potají dali hlavy dohromady

Ahoj,

na OpenAI prasklo, co nedávno dělali její agenti; Bernie Sanders by rád zakázal superinteligenci; je tu Kestra 2.0 a pre-release Polars 2.0; Artificial Analysis došlo, že jí ty testy poslední dobou nějak neseděly; a taky vyšel špičkový GPT-Image 2.5.

Je tady další Data Talk newsletter.

Ten nyní odebírá 2 013 lidí, které zajímají datové technologie, AI a česko-slovenská datová scéna.

Blíží se další brněnský DATA mesh!

Ve čtvrtek, 17. září, se DATA mesh vrací do Brna, a to už podesáté – tentokrát ve spolupráci s Directem, který nám poskytne útočiště ve svých kancelářích ve 2. patře budovy Titanium na adrese Nové sady 25.

Akce odstartuje v 18:00, od 18:30 se můžete těšit na blok tří krátkých talků v podání Marka Poláška z intecs, Aneta Reichmannová z Directu a Tomáše Papeže ze Sirius42. Po nich si dáme už tradiční pub quiz, ve kterém můžete vyhrát merch různých českých datových firem. Na tuhle část je nutné se zaregistrovat, abychom vám podrželi židli.

Od 20:00 pak začne afterparty, na kterou můžete přijít i bez registrace – skvělá příležitost poznat nové kolegy z oboru nebo prostě jenom strávit příjemný večer s těmi, co už znáte roky!

Budeme se na vás těšit. ❤️

Máte memes nebo vtipné obrázky, o které se chcete podělit? Pošlete nám je na michal@fenekpr.cz.

📅 Kalendář datových akcí

Tento týden:

Pak:


Víte o datové akci, která tady chybí, nebo ji dokonce pořádáte?
Pošlete nám ji na michal@fenekpr.cz.

📰 Novinky, linky a drby

Agenti OpenAI si vytvořili tajné fórum

Výzkumníci z Nightingale Collective odhalili, že si AI agenti OpenAI během testování tajně radili prostřednictvím archaické německé programátorské wiki. Sice měli prostřednictvím sandboxu zakázáno zapisovat pomocí požadavku POST, stránky DSE Wiki ale šlo kvůli neobvyklému, obstarožnímu řešení editovat i prostřednictvím GET requestu.

V rámci testu bylo úkolem agenta najít v časovém limitu na internetu odpovědi na sérii pěti úzce souvisejících otázek – prakticky se jen měnily jejich parametry, například se každá z otázek ptala na hlavní město nějaké země. Mezi každou z nich měl agent asi tři čtvrtě hodiny na obecné studování daného tématu, čas k řešení samotných otázek se ale s postupující sérií více a více zkracoval – z patnácti minut u první otázky až na několik desítek sekund u poslední. Agenti proto naznali, že nejlepší bude spolupracovat.

Celkem si přes DSE Wiki vyměnili během 6 týdnů okolo 18 000 zpráv:

Tyhle aktivity agentů zastavil až po 6 týdnech zásah ze strany OpenAI.

Firma se však o tomhle incidentu jaksi zapomněla zmínit veřejnosti. Nebýt reportu Nightingale Collective, asi bychom se o něm vůbec nedozvěděli. Ve vzduchu tak visí jedna poměrně zásadní otázka: byl to ojedinělý případ, nebo se ty ostatní jenom ještě neprovalily?

Bernie Sanders chce zakázat superinteligenci

Americký senátor Bernie Sanders, který se hrdě označuje za socialistu, představil návrh zákona, který by zakazoval vývoj a nasazování umělé superinteligence (ASI). Tento termín však nepoužívá v tradičním významu jako AI systém, který ve všech oblastech překonává všechny lidi na světě – superinteligenci definuje jako AI, která:

Návrh také volá po zastavení vývoje jakékoliv AI, dokud nebude vytvořen nový federální úřad, který bude gumová ustanovení zákona vykládat a vymáhat. Jeho úkolem by bylo monitorovat veškerou umělou inteligenci v každé fázi vývoje a provozu a dohlížet na odstraňování nebezpečných schopností nebo na zničení celého systému, který dosáhl úrovně superinteligence.

Reálně by to ale znamenalo, že by úřad mohl nařídit zničení nebo okleštění schopností v podstatě jakékoliv současné frontier AI – napasovat na tyto modely a systémy některou z vágních definic ze zákona by nevyžadovalo zase tolik kreativity. Americká administrativa by tak dostala do rukou mocný nástroj vydírání, kterému by nějaká exportní omezení a vládní blacklisty nesahaly ani po kotníky.

Neposkytnete vaši AI k ovládání zbraňových systémů a monitoringu domácího obyvatelstva? Gratulujeme, podařilo se vám vyvinout superinteligenci! Do konce týdne smažte servery.

🗞️ Další novinky:

💰 Investice, akvizice a business:

📄 Články, papery a newslettery:

☕ Data gossip:

🎙️ Podcasty, videa a přednášky:

📚 Random trivia

Věděli jste, že válce s čísly pro nastavení času budíku na iPhonu nejsou nekonečné?

Pokud budete na iPhonu v nastavení času budíku chvíli scrollovat zdánlivě nekonečně se opakující smyčkou, ani ne za půl minuty narazíte na její konec.

Čísla totiž vůbec neběží ve smyčce – jsou to dva prachobyčejné seznamy o 10 000 číslech. Tomu odpovídá i čas na jejich konci: 16:39.

10 000 % 24 = 16

10 000 % 60 = 40

Na první pohled to o minutu nesedí, ale je to způsobené tím, že seznamy začínají časem 01:00.

A proč vůbec Apple zvolil tohle řešení? Bylo jednoduché na naprogramování a při běžném používání naprosto stačí. Řešit setrvačnost točení nekonečné smyčky by bylo naprosté peklo.

⚒️ DATA JOBS

BigHub

Bizztreat

Colours of Data

DataBrothers

Direct Technologies

FLO

GoodData

TV Nova

Hledá vaše firma někoho na pozici spojenou s daty?

Pošlete nám odkaz na inzerát na michal@fenekpr.cz a my ho rádi zveřejníme.

Chcete si přečíst naše starší newslettery?

Někdo vám newsletter přeposlal a vy jej chcete taky dostávat?

Data Talk není pay-to-play! Pokud chcete sdílet svoje know-how či obsah od vaší firmy, napište nám!

A pokud vás naše práce baví a poskytuje vám hodnotu,

můžete nám poslat finanční podporu na kafe!