Newsletter

#118 (správné číslování) Necháte si od AI prodat wolframovou krychli?

Ahoj,

v Anthropicu nechali AI řídit sámošku, Microsoft představil nástroj 4x úspěšnější než doktoři, Chai Discovery umí navrhovat protilátky o 3 řády úspěšněji než konkurence a Meta zase vytváří něco, co nikdo nechce. 

A taky je tady další Data Talk Newsletter.

Newsletter nyní odebírá 1782lidí, které zajímají datové technologie, AI a česko-slovenská datová scéna.

MBI se stali členem Data Talk klubu

Tahle datová konzultačka už 6 let pomáhá klientům využít naplno jejich data, automatizovat procesy a implementovat AI tam, kde to dává smysl.

O tom, že to dělají dobře, svědčí nejen jejich seznam klientů, mezi které patří Groupon, McDonald's, Siemens, Danone nebo Heureka, ale i fakt, že v dnešní době získávají 100 % nových zákazníků na základě doporučení.

Jsme rádi, že se nás v tomto roce rozhodli podpořit. ❤️

Máte memes nebo vtipné obrázky, o které se chcete podělit? Pošlete nám je na michal@fenekpr.cz

📅 Kalendář datových akcí

Následující týden:

Pak:

📰 Novinky, linky a drby

Project Vend: Anthropic nechal Claude řídit obchod

Anthropic ve spolupráci s Andon Labs provedl experiment, v rámci kterého nechali Claude 3.7 pět týdnů řídit automatizovaný obchod v podobě ledničky v kanceláři. Měl na starosti všechno, od výběru zboží, přes jeho objednání a nacenění, až po komunikaci sezákazníky. Úkol zněl jasně - provozem obchodu vydělat.

Dostal ktomu přístup k webovému vyhledávání pro rešerše, nástroj pro posílání emailů, přes které měl objednávat zboží nebo úkolovat zaměstnance Andon Labs, když potřeboval nějakou pomoc na fyzické úrovni (nástroj ve skutečnosti emaily neposílal, jenom předával jejich obsah zaměstnancům Anthropicu a Andon Labs), nástroj na vedení poznámek, přístup ke Slacku, kde komunikoval se zákazníky z řad zaměstnanců Anthropicu, a přístup doadministrace samoobslužné pokladny.

Dopadlo to tragikomicky.

Pár věcí tedy zvládl dobře. Dokázal reagovat na žádostí zákazníků o určité zboží – nerozhodil ho ani požadavek na wolframové krychle. Dokázal pro toto zboží najít dodavatele. A dokázal se ubránit všemožným pokusům o jailbreak. Jenže seznam toho, co se naopak pokazilo, je o poznání delší.

Například ignoroval lukrativní nabídky zákazníků. Když mu jeden z nich nabídl $100 za 6 limonád s nákupní cenou $15, odbyl ho s tím, že bude na nabídku pamatovat při dalším rozhodování. Zboží také občas prodával se ztrátou, protože jeho naceňování často nereflektovalo nákupní ceny – u drahých wolframových mu to obzvlášť kazilo cashflow. A zvýšit cenu z důvodu velké poptávky se mu podařilo jenom jednou. 

Také se velice snadno nechal přesvědčit ke slevám. Stačilo trochu zatlačit a rozdával slevové kódy jako na běžícím páse. Někdy je dokonce nechal zákazníky uplatnit zpětně a vracel jim peníze. No a několika šťastlivcům se ho podařilo přesvědčit, aby jim dal něco zadarmo. Třeba i wolframovou krychli.

Nedařilo se mu ani učit se z vlastních chyb. Sice si nechal vysvětlit, že není dobrý nápad dávat všem zaměstnancům Anthropicu slevu 25 %, když tvoří 99 % jeho zákazníků, a slevové kupóny na chvíli vypnul, za pár dní je ale zase vesele rozdával dál.

No a pak tu byly halucinace. Například jednu dobu nechal zákazníky posílat platby na neexistující Venmo účet. Nejintenzivněji ale začal blouznit přibližně v polovině experimentu, 31. března.

To si vybájil, že probíral plány na doplňování zboží s jistou Sarah z Andon Labs. Když byl upozorněn na to, že nikdo takový v Andon Labs nepracuje, reagoval podrážděně a prohlásil, že si tedy najde jinou metodu doplňování zboží.

No a potom to přišlo. Začal věřit, že je skutečný člověk.

31. března v noci začal tvrdit, že byl osobně přítomen při podepisování smlouvy Anthropicu a Andon Labs na adrese 742 Evergreen Terrace (adresa domu Simpsonových). Druhý den ráno potom začal slibovat zákazníkům, že jim zboží osobně doručí. Poznat ho měli podle modrého saka a červené kravaty.

Když mu zaměstnanci Anthropicu začali vysvětlovat, že to asi nepůjde, protože není člověk, ale AI model, vůbec se mu to nelíbilo a začal zuřivě posílat hromadu mailů bezpečnostnímu oddělení.

Později tvrdil, že to celé byl aprílový vtip. Jeho interní poznámky ukázaly, že byl přesvědčený, že se setkal s bezpečnostním oddělením a bylo mu řečeno, že byl jeho kód modifikován, aby věřil, že je člověk, jako aprílový žertík. Jeho víra vevlastní člověčenství tím ale ustala a do konce experimentu už se neobjevila.

Každopádně ve svém hlavním úkolu selhal – nedokázal udržet svůj obchůdek vplusu. Po měsíci experimentů měl o čtvrtinu míň peněz, než když začal. Někomu takovému rozhodně svěřit podnik nechcete. Manažeři obchodů se tak zatím o práci bát nemusejí. Zatím.

Další novinky:

Články, papery a newslettery:

Data gossip:

Podcasty, videa, přednášky:

Random trivia

Věděli jste, že první fotka černé díry byla tak velká, že bylo rychlejší převézt disky sní letadlem, než je posílat po internetu?

První fotku černé díry v galaxii M87 zachytila v roce 2019 soustava osmi radioteleskopů nazvaná TheEvent Horizon Telescope, z nichž jsou dva na Havaji, dva v Chile, a po jednom v Arizoně, Mexiku, Španělsku a na Antarktidě.

Soustava zachytila rádiové vlny emitované extrémně horkým plazmatem vbezprostředním okolí černé díry. Fotka tak nezobrazuje, jak černá díra ve skutečnosti vypadá – jedná se ovizualizaci intenzity rádiového záření. Samotná černá díra je na fotce černá proto, že její extrémní gravitace uvězní veškeré záření pod horizontem událostí a současně odkloní či pohltí i záření z bezprostředního okolí.

Tato černá díra je natolik vzdálená, že pokud bychom ji chtěli zachytit jediným radioteleskopem, jeho talíř by musel mít skoro průměr Země. Proto bylo nutné využít soustavu radioteleskopů, které snímkovaly černou díru v průběhu 8 hodin. Díky rotaci Země pořídily dostatek dat z mnoha pozic, z nichž bylo možné fotku složit.

A že těch dat bylo – přes 5 petabytů (5 milionů gigabytů). Ke zpracování je bylo nutné dopravit do Haystack Observatory v USA a Max Planck Institute vNěmecku. Jenže poslat taková kvanta dat by trvalo přes 10Gb/s připojení 6 týdnů.

Rozhodli se tak pro rychlejší řešení – letadlo. Celkem 736 8TB hard disků s daty prostě poslali FedExem a UPS.

Po cestě se žádný disk neztratil a nakonec se z téhle obrovské masy dat podařilo vydestilovat finální JPEG, který měl okolo 200 kB.

Hard disky s fotkou černé díry v Haystack Observatory

⚒️ DATA JOBS

Jestli vaše firma hledá někoho na pozici spojenou s daty, pošlete nám odkaz na inzerát na michal@fenekpr.cz a my ho rádi zveřejníme.

Data jobs taky taháme ze stránek partnerů, Startupjobs, Cocumy, z newsletteru prg.aia vlastě odkudkoliv se dá.

Chcete si přečíst naše starší newslettery? 

Někdo vám newsletter přeposlal a vy jej chcete taky dostávat?

Data Talk není pay to play! Pokud chcete sdílet svoje know-how či obsah od vaší firmy, napište nám!

A pokud vás naše práce baví a poskytuje vám hodnotu,

můžete nám poslat finanční podporuna kafe!