Go back

Najde chybu dřív než hacker. Český vědec o hrozbě AI a opravě internetu

60m 13s

Najde chybu dřív než hacker. Český vědec o hrozbě AI a opravě internetu

Rozhovor se zaměřuje na revoluční schopnosti modelu Claude od Anthropicu v oblasti kyberbezpečnosti, zejména jeho schopnost autonomně objevovat zero-day zranitelnosti v kritickém softwaru. Host Stanislav Fort vysvětluje, že tyto schopnosti nejsou zcela nové – jeho společnost ILE již dříve dosáhla podobných výsledků s vlastním AI systémem, který objevil desítky bezpečnostních chyb v projektech jako OpenSSL nebo Linux kernel, a to i s využitím menších open-source modelů. Diskutuje se o tom, že tyto schopnosti se rychle šíří napříč různými laboratořemi a že omezení přístupu k modelům není dlouhodobě udržitelné. Klíčové je vnímání této technologie jako nástroje pro obranu i útok – AI pomáhá jak při objevování zranitelností (defenzivní role), tak při vytváření exploitů (ofenzivní role). Trend zrychlení vývoje AI schopností bude podle hosta pokračovat, přičemž spolupráce mezi laboratořemi a bezpečnostní komunitou je zásadní pro zvládnutí tohoto „civilizačního problému“. Malé české startupy jako ILE ukazují, že i ony mohou konkurovat globálním hráčům a přispívat k bezpečnosti celého digitálního ekosystému.

Transcription

10178 Words, 59603 Characters

Czech
To jsou mě realně odemklo dvěře na Cambridge, a potom na zteni fort byly zčeržšovské sebynáře olympiádi v Česká repoblice. Já jsem vyrost nemalý věsně csej věžních chách, takže to nebo nebo něco, co by bylo blísky, nebo co byly díklémně dělali, jak byž nějak běž nějak. Já jsem se mohla rozhodnout, že budou předvádat těch samych probléme, kdyby jsme věžně tak, ale pracovat na něk v obnejáji, v dým mám, které bylo v antrapeku, nebo se založit vlastní výskli starta. Dobrý den dáme a pánové, vítid u další důnašou podkástu, mani měj kréhá jsem onřej hlcman, já jsem Luboš Krayč. Nenálním partnerem tohoto dílu je ceden cemnesácerům, partnerem je také skupy na direkt. Já už stady vítám naše hosta, který mě stanislafort, polu zakladatel starta po aisle. Já díky moc zapozvájít. Dobrý den. Musíme začít aktuání im vesvědě AI, kterému se vysamořeně ve starta po aisle také vynu je té. Antropik vydal, nebo nevidal, ale přestavel model mitos, který podle mnohatitůlku a tak má půksobý trevoluci v mnoha oblastách nejenom v té kiberbezpečnostní. Tak, jak vydovlásím nímá, jako člověk, který se AI zabívá historický fantropiků a vdehoších těch tovolkých laboratorí v působýl tak, co je takový ten hlavní mesíč z toho, že je tady mitos, který ještěře dalí nevidělále, výmou už tak jako to vnáší. Je pravdá, že model mitos od Antropiků, minuli týden spůsobilo fakt velkou odezvou vesvětě, a to hlavně je skarze schopnosti, které má mnohatit kiberbezpečnosti. a i včech nejzabezpečenějších kusek so tféru, musí v ráčných systémách tak pokudová exploytac, takže čejno vájní nebo jako nějaké spojování klatěch dotlivých hip v nějaké úspěšné utoky. A to je něco, co typický lidži viděstí, protože když vidíme, tože hekování běžně probíha nějakým tempem islickými hekry, to, že bym nějak se stvat AI-modula, který by podle těch sprav, které antropěk vydal měl být skopem na cházetch, které jsou hluboce schované v tom so tféru a níkde před tím nevěděl, a zároveň eksikovat utok nezávislé, to by bylo hodně špatné. Naštěstí samozřebně, jak my to sú přícupní lidem jel, a většiná lidi je vestejné situace, je to modula, který se zdá, že je za nějakým pejôlem, nebo o mezeným přístupem, je to invite only model, zase, že je hodně víkoný podle sprav, a zároveň hoge drahý napravos, a podatěch s vrát, které jsme viděli, tak oběvěl několik předměznámi, když je připračním systému 3BSD, což je jeden z versílinuksu nebo pododného práčním systému, který je provozvan hodně instancích po světě, a zase, že tím, který my to spouštěl našel hibou, která byla před tím neodhlená, ale žel tam dlouhe, dlouha leta, která byhem, kterých odlávala, jak lidskému, jakému skumání odhlován, taký počídač vým, z systematickým spůsobum odhlování tejte chy. Takže záse, že minimálně v tom, na tom režimu, my to smá realnevisledky, které minimálně odpovýdají tomu, co jsme očekávali od silných AI-modelů v mindlasti. Já si říkám, že ono to celé asi, jako v tom medialním prostoru nebo takhle, o táhá z ní, nepůsobilo to v tom medialním prostoru trchů vypětějíšné šekáje, ta realitá, protože ty tůlky medíc, celého svědá včetně čekrančetra, byly v tom smyslu, že antropik našli něco, čeho se sami jako oni viděsili, a že to je zbraní, která má potenciál, ale jako pácha, jako ochromní škody a žijí, ráčím musili zamkou do tresoru, a takhle. Byla to, byla to lento strášení na místě, a nebo jako se podle vás. nedějnit tak jako šileního. Já nemůžu spekluvat o motivacích, antropiku protihlativěci, ale zmého pohledu, jako človějka, který je hlavní věrec společnosti, která se zabíva AI a kibere bezpečnosti. Tak my výjeme, že tyhlati skopnosti AI-modolu v dobrej archestrace, v dobrej systému, zapojenem, zopojenem společně vzagledi, vzagledi se kibere bezpečnosti, a se ekspertí, si která tam existuje, společně v dobrej mělžení ringém, byli skopný odhlavat tyhlati předde mné odhone chyby, tak zdané z Jereodays, už měnosti. Na příklad Myf Ile máme několik se takhle oběvní hip pod naším vysvěm trezoru v tomhle tom metafryském smyslu, a to skarazety nejze bezpečnější sotvervé projekty na světě, jak už o kernel linuksu, což je ekstremně zabezpečný adulěždý část, dvač dá část, to v téraho helyosvěta, až pokrypto grafické komunikáční protokolé, na který stují zašfervaný internet, až počeba komunikáční protokolé nasi pro komunikáci v sejpozadními stánicemi, a satelety. Takže mě výjeme, že tohoto bylo možné, protože mystame se neprváděly úplně obdobné věci na podobně těškých, nebo těšších cílech už běhemitlého roku. A výjeme, že jsou to opravdu ve oběvy realních z Jereodays, protože jsme tyhlati problémy na hlásilete mentej druček projektů, skrza tě zvané vyspansu blitzklužer, což je protokol pro opatrné zdělování potensijání bezpošnostíhy, tak abys o tom nedozvyklovník do jiní, a mente inřitěch projektů byli schopníc helyby opravdu nejsekim dojrsta dostaní helykere. Tože my výjeme, že byli realné, protože oni potom běřejní oznámi, že tady Ile oběvil hybů, které má tajtů severitu, je to skoré od nulý byde se ti, jak závažná je, a potom se veřejně komunikuje, jaká přesná opravá má proběhnout a trekuje se pak tohle tach, je ba pomět si unikátniu identifikátů, je bude sejvé, takže tach je ba věpá ráko CVE, des, rok, desňake číslo, a když je ba dostaně takvěle, takvěle unikátní číslo, tak to znamenáš se veřejně trekuje v databází, které se zabíva i bezpošností su tervých systémů. A my těhlati k sijvé ček, tak zvaných máme kolom 200, v těchnej za bezpečnějších sufervých projektek na světě, a tohle to byla práce, které usmé praváděly měsí se předměto sem, a my výmě, že praktické těchlati schopnosti AI-modelů obivovat Zero Days v sofěru, jsou mědimálně velice lateňtně přístupné brám se těch modelů, člověk je to kávě se tovat tím, že je dobrze zapoji, a to se tíkaj jak frontier modelů z velkých laboratorí, i těch menších verezích, verezích, které jsou za API- přístupem, také Open Source Module, které jsou tečka veřejmě k dispozití, a potensí alně člověk může bějře, čemá lokalně na laptopu. Takže minimálně schopnosti detekce na výchhyb umytosu se nesda radikealnějina od toho, co víme, že existovále před tím, a existovéjí projekty MIMO-ILE, čemá Google Project Zero, se věnval podbému projektu obivování hip v sofěry, pomoci jí uměla inteligence z urbárok spátky. Takže víme, že minimálně ta schopnosti detekce není radikealnějina. To tady byla pro. Ale jiná otázka ekspojitace, vytvářejmětek z vaných ekspojítů. Co, že něco, co nevíme, jak snadné jí je pro uměla inteligence, protože jí to natolik ofenzivně laděna schopnost, že ník do veřejně netlačilo schopnosti je chmodou dal. Jen jiná otázka pokud jen někdo ofenzivní sekury ty výzkumník, a chce hekovat věci, jí jesse by ten šlověk nebo schopně zítmo, ale které už existují, a do veřejmět k tom výsledku můrbného typu. Ale nemáme realnou možno sporovnod. Je vlastně jako paradok, že se to oběvilo u antropiku, který v tom svim DNA jako by má ten etický přístu, takže vlastně voto je to možné jako i kuriozniší a si zajímavýší život. Podle mě to doslá se dí, do témy se, protože pokud si myslíte, že tohla to je schopnosti rá existuje, a je to možné ujelatite, k sejdi modellem moždá z více v budu co s tím vzmlehem více modeli. Tak je podle mě možné myslět si, že je dobre komunikvat tu hlato informaci do světa, protože to znamená, že lidé by mělej abdaitovat s můj pohle to, to jak zabespečně jsou sotvervé systémy, a jako velkou pozornost musí právě davat na to, aby byli třeba abdaitované, nebo aby pro aktyvím hralych, které by měch mohli bít. Takže tože AI pomáha, jak té offenzivní, tak té defenzivní stránce, to je skutečnou, to je fakt. Já si dokalžu představě, že Antropik tím, a tím, že vám ak tom, aby komunikvat tu hralych, ktečnou strou, a nej viděli přímo, s tím systemem do světa. Kažubáně to, že to Antropik za tím zamknulnébo o mezel tém přístup, takže vzásaděnom otázka časů než ten modell, bo jakýkoliv další někdo jako ovezme, a vy uží jelo meno zne užě je pro ty offenzivní učelit. To je vlastně jako na věhnutelný scenát, který učitě na stané. Tak nemáme křištělovokou, ale jakým už je byj ten další vývoj, protože přesně vznikná si dálších modellů i vý, a vžade další chferem podobní, jako vývíte, a vlastně by asišli taky teoretický zneužit nežkám konkrátně ten váš, ale vidíte to stí jedný stránistý defenzivní. Takže jako je to asi no motázka časů nech začnou, je týhě kři, u ně už seďka vyživají, ale. Žekaj, nevěl, kým do. A stali v tomas jako přelomoví věci v týké berojsošt? Oprbyt se podíváme na nějakou historii pro-liferace schopnosti AI-modelů. Tak týpický pod několika měsících, co jedná labratoršče bazízká nějakou nějaký náskojkní a kejskopnostky. Typický ostakní velké labratoršu, to je to to tocháhnou tohopnost na podnou urvení a často děkli k měsíců na to se ta sama schopnost, aby vývou pân s aras modelech. Takže, pokud ta historie toho vývojí dneco polečo osemužeme říjit, tak je pravdě probné, že dojde k pro-liferace těch schopnosti. A je možné, že pokudám těch schopnosti už měska jsou, tak je in otázka toho, že se děle nepudívali se rečně podrobně k tomu na to je slibě dokáza, ale je z toho modulo zízkat. Takže je také další možnost, a je to něco z tím se musíme a se smířit, protože ta situace, kdyby chm se představili, že svět, který je unipularin, kde jedno labratorš má unikátně skěla kváci skopnosti a druží přící přístup zaně a kými zamyčenými dvěřmi a věře, ale je to ideáli svět, ale bylo by to jedno možné řešení toho problému, tak tak výsred určí je na stané, protože my užneska výmé, že to skopnostky jsou ohodně šířeji destribovane. by bývali byly našle tu samoch je buchter, a umit was anánsaval v tom rilísov. když on je mluvelé, kdyby se lidé byjvali podívali a tím modele mno to kvodbays. Takže to zládl model z tisíci na sobně měnčím bážetem v dolarách. Je něco, co lidé nečekali a vytvořilo to je takví pushback, prakid můklejmu, protože to znilo až nepravdě probě. Ale pro dň abdej tím s něj remě něco, co byly dělat, protože to něco, co je realně je. To uvózorodí, že se se jadou lidí, je taky je taky jako realní ryzyko. My jsme třeba v IEL byly svopnějí pomocí našou ohodně výkonějšího a lepšího systému pro AI-bezpečnost proskěnavat OpenSosel, cože krypografická pátrž internetu. Lidé zesrandi říkají, že v tom HTTPS, v vášem Brawzru, to S tojí, jako je znamená OpenSosel, je to akšifrvací protokol, a šifrují minimálně dvětřeky neinteretového provozu. Takže to něco, naším jako opravdu stojí velká část komoryká se světa. A jaka jakoly bezpečnostních je bá, kterou oni uznají jako sijí víčko, jako něco, co se tráku je oficialně, je typicky něco co definuje careeru sekurety výskomníka dal. My jsme blyly svopný do téhla tehla dobý obyvit, musím spocítat přesné čistlo obyvit podle mě 200 bezpečnostních, je půjté mají ten identifikátor. Mylám si kryterilí jsou, opravdu se vod 12 bezpečnostních, které opravili, a každá jednotivástěch 12, vlo oběvránáším AI-Systemem autonomně. To čísle 12, netypické historické, ty si kryterilí si milétypický méně hip. A co je dôší netypické, je dominán se jedné organizace, co se ál, v tomu tom čípadě, naše výskomné laboratorř, a zároveň to, že některé z nich měli vysokou závažnost, takže skorovali vysocenatom, no tam skorovacím systemu, nebezpečnostky tehy by. A toto všetskou byly vysletky našeho autonomí AI-Systemu, který operaval byhem podzimu a zimě měno lehorku. A my jsme museli počkatně kličně sýsů, a kordynovac se. - A než do můžete. -. můžete přesně tak, než zmůto mohli můvědvenřeně. Takže to bylo víra z něj předmětosem, a my jsme věgliš takové a skopnosti exyci, protože jsme realně oběvili realné bezpečnostních, i když nikdo v nějakých připrech nevěgil 25 let plus. Takže ty věcetem segle štvrti nastolati a vydrželit miliony CPU hodin fazová, což je ten stálijí přísoklé rání hip, a zaále věžkero útupo zarnost celé výskumné komredy tifky bezpečnosti. A my je byli skopně oby vytpámoci AI-modolu byhem podzimu. - No, jenom jistu spravně hápu, a pokusím si to interpretovat a vrchuzy nendušit. To nače vyplatuje teďka ten efekt mytosu a antropiku, vlastně jako amplifikujene by ukazuje ty možnosti, který jako tady jsou, a díky tomu, že te antropika je to ten jedná z největších laboratorí tak na to vlastně výsť na svýtůjou. A vy v rámci těch vási jako reportu, co ste vidávali a vási chpostu, a tak tady rezonovali napříč na přícvětem tak vy vlastně řekátejou, hodli těme už na tom děláme nějakou debu, stej nějakou antropik, a jsou tady přesně i měnší nezávislí laby, který se tomu samozlýně výnovu taky, a vlastně vám ale myto z pomáha jako v komunikacití věci, protože jasně nevšechno zvládné antropik sám, stej nějakou bude dalších pěciovan zených speciolzvaných fémekových. Takže je to vlastně jako spojiny organizmus, a vzájem jen se to jako posouvádu předů, a samozlájně takhle kdo vyhraje tu hrů je jako na inou debatu, ale vlastně tepozitíví prava pro všechny v tomu dvět většili. To je to je mysek, kterou zdílimé s antropikem, zdílimé s ostatními hráči, to mobu je to hodně větší, než jedna konkrétní firmá, a ten problém má oproducivilizáční škálu, takže to není něco, v čem by se podle mě vyplatilo, součit, že to v nějaké negaty v sam, že to celá johodně pozady v sam, kdo kloj najdech je bude opraví, tak celé kvězvíší bezpešnost jelého světa, takže v tom je to hodně pozitíví z prava, a zárven to ukazuje, a zvíra z nůjelydem, který čičba drží moc na tím, jak odnáco se bude mě součekit, jako skřeba s kresé poli se v rámci států nebo v rámci organizací, u kterých je kébe bezpešnost velkým tematem, tak toto zvíra z ně roly právě té bezpešnostky so téru samotného. Takže já se myslím, že pro mě obecně to blasky lá spárava, protože je to ekstremnívalidace, tohó problému, na kterém se pracovali další dobu, a zárven, když se podíváme naše výstatké a prbáme, tak hrajeme úplně tu nejvěš pre nělejbí. To no se no vácti, což je něco, z čo jsem ekstremě šťastná, je to něco, co malý český výskrům start-up, když řukáže kompítvat, to bym nevá něbit na bok po boků z tíml, obřími hráčit ekstremně z kola spárava. My mohodem tím, jak to hrozně zarezonovolat a spárava toho antropiku, pocítil, když se to i výjně, jak je, když se vám začili drnyčet telefony, protože vlastně vyste, že os on růvlčkem dýsit ten a je lo před rokem a kus nebo vlastně vštědíl, zakládali tak přesně to dlenc to je tam mysé, že o to tak rozdrnyčili se telefony začili psať i maily, nevím ozívali se na vás poustili dí. Jsi vlasto nezabilo zároveň, to by taký taký tak první ráček, že se všel novéj model, s tártapy jsou mrtví v pozovkách, protože vlastně to vyřeší ten jeden. Já bych tvrdě ožem mrtví, dejstme. To já nežiká, že jsi jako, že nejakou jeden první efekt přišel nový model, který všechny, který všechny, kudujeme, protože nejví. Jsi jsme sýmešešlo ve jak musí je reagvát sklidem a nadřladevno ty návnacmenty. Protože uvrindexace na ten konkretní realiz se historyjské nevěplatí. Dívat na trend, který dobrovostnosti pokračuje, je něco na čem hoďně pracujeme. A ten trend se nezdáž, bo zlemeninia, ký bredikálním způjsobem. Takže nejní do překvapení. Zárven máte pravdu, že toho to bylo obrovský zajem. Oto lečeme s mepracevali a oty výsledky, které jsme měli metaforické se rozdrenčili telefony bylo zajem. Rój tím, jste leho světa globalně o to na čem pracujeme a jak bychom se mohle zapojet. Takže jste rykláže váš títnou klič před mohlého nimpresí. Můj tvít měl výrazně mlež tví impresí. Záravení ta správa, kterou jsem tam zdělel, což bylo, že kdybychom bývali použili malý open-source model, tebychom bývali našli to samochybuje kontropek. Což je něco, co je ekstémě kontroversní a priori. Realně to právdáme, je máme ty důká se toho, že by to býval byl ten model udělal, ale níkdy se s ním nepodívalo to go with base. Tak to rezevolo produ hodně, teda akci by smíšené při velkém do shovu, že se stáva, ale je pravdá, že. To troufali je pro spoustu lidí to z nít roufaleže. To troufali, ale pokud máte tví sledské, tak. Potom. Je to něco, co se nemusí to hodnou, kdyby to záklakej nějakého, jak by po vrkovego odnoce in lah podíváte sej se ráde by toho proběhl. My jsme open-source falé minimální vérezej našeho skéneru, kdy přesně toho káže udělat. Takže my nemusíme tverget něco, že by to bolo schopné, ale lidá si můžu rávně stáhnout ten kota spůské celsamej. Takže to je něco, co se nám dává větší důvěry, tože ta technologie hodně dospila. Ale telefon se rozdrenčili, co je pravdá. A vytvářal to daleko udiskuzit o tom, nákolik ten rilií z toho myto sú, byl marketing a naklektomás substanci. Já si myslím, že lidé to potom přechnulé na druhou stranu, některí a říklé, že je to je marketing. Použádem případě se myslím, je to nepravdě pro mě a by to bolo pravda, protože li se podíváte na histori antropiku a schopnosti jech modelů. Tak ty moduli jsou realně čím byl těm schopnější spůsobem, který koranikálně pomáha bude do menách, a nečekal byš ten trend se zlomí. Takže zase ablý tve důvět vatom druhou stranu přílešte také nemou dre. Takže je to je to nejom antropiku, ale když se podíváme na ten jako jejich hrlí z cykluz, tak to přichází praktyc káždý den, menímálně týden nejety velké modelé, ale je to spůstu funkci, který tam předávaj. Když se mi děl nějaký kalendář v otřádku, tak je vlastně uplně faszinující. Jakou vychlozí to předávají, když se káte, že neučekává, tak že tak si vkajek o nějak polevi, tak už to asi bude jenom, když to bude se jenom hořší tady v tomohodů. Jakože to bude čím dál tím rychlejší, čím dál jako výt funkci se bo nevalovat, cože spíša se jako pozitímní signal, ale jako sledovat to a je to dostlužitý. A ty se na to jívám pohledem jako člověk, který nepřeba jíbete v tom odvět výtví, což může bejt jako služitější. Můžete výhodá v něčem ne. Tak jakože tohle vlastně strášně moc. A podle vašeho čekávání to vlastně bude tady v tomohodů - I dál jako rychlejší. - Já jsem hystorycký bylo hodně pro roku tohože škálován, takže to ten trend zvěčvání modulů a ta koresponuící zvěšvání schopností se někdy zlomi. In 2021, je sně před třečí pítí jsem se vyšel velký čtánek v nůrokoru, který zvěstovala konečkálován, náraz dostějá. To blyt jasně předtím neště, že ty v předské schopností zdačali materializovat. Takže já mám obecně hystoryckou skepsy, které může by to někdy mělo burské bursností přestat, je možné, že existují nějaké fundamentalní limity, o kterých nevímé, ale neví o nich nikdo. Takže i skěptyci i optimistíkolem toho více mě pracují na základě hodně o mezených informací. Ale zdá se, že schopností na AI, na postavené, na velkých jasek vích môrléch, nějak historický stabilně stoupají a nečikal bych změno trendů niktiv burské bursností. Tím na místě poděkla partnerů, díký ním šmanemej krovzníka. Epizodovám přináší ceden cennesáce dům, česká technologická firma, která bude uspěšní hlování produkt už přes 14 let. Pravěte hledá talentované hráče, který stíjí provozvod kubernety s oběmu, který je vestřední Evropě výjímeční. Pogod nemát rádí korporátní břzdy, ale chcete být u velkých věcí, pozicí najdete vypsanou na ceden cennesáce dům tečka jobz. Partneré mi také direct, česká skupě na firm, které fungují rostou a vidělávají, pojštěvná, fintech, mobilita, investice. A tímá tem možnost podíle cená je ich úspěchu přímo, díky fondu direct pro, fondu za kterým stois kuteční biznes. Díky zapotporu a teď už můžeme spátkých rozovorů. Jako uroly v tom obyvování technových schopnosti a předávání technových schopnosti? Jako uroly v tom ještě hraji jako AI-experti a jako uroly v tom hraje už ta samotná AI, která vlastně jako pomáha, to můsistemů vlastně se zdokonalovat a předávat nový jako funkce nových schopnosti nový dovědnosti? Já jsem trenége výskomních půvidnějte oryctí fyzik a velká časme je práce dnes v AI-le výskom, takže já se zabívám denu. jedno deň je tím, že skoumám nové věci, což, a kdybych nebylo vsookroméla, ale a bo já tože je nebo vsookromém startupu, tak věch pravě pro bělou kvalidrické články, stějeme výsledky, a moje práce se radikálně změlatím, že používám několik parolně běžících výskrbných asisten tůrb agentů, který zámě pravádějí výskrnou eksperimenty, a já vlastně hraju roly něčeho, co se podabás píše, prof. věkterý má tým, studentů a studentek, kteří pravě pravádí děti v eksperimenty. Na drenhu starou v tomto přístupu, který se mohla zivet oto výserc na maněcí dakového, a tak jsou pořád a změch spleng zmeho ploru silné lýmety, v tom, že zatím nejsem skopen pravága tajte věci autoromě, musím, že mají jednou za polhu děny interactvat z tím, jakého myšlenky ty agentěj prostou mávají, a je se na hrů nezadažili to nějaké slepe ulečky, a takže, historický pracol se studenty třeba z ETH, storych, nebo z Oxfordu a nebo z Stanfordu, a vím, že tí studenti bývajit týpecky lepší v té vysov úrovnívé navigaci toho prostoru myšlenek, ale hodší v exekuci skrazi programování a pravádní těch eksperimentů. Žitě má trochu inou strukturu, a na 100% vidím, jako brské indigace toho, že to, jak probíhá výsku, in a té jako nejvyší špice toho, co se vý, v různých obarach, který vmem konkrétim oboru, v bezpešnosti AI, se asi budáda tykálně mějit v blízké oboru útosti. Takže, by vlastně orochestruje, takže, kdyby tu umělou inteligenci navádí, když kátejí se mnechodit, tady to přehodnod, tohle udělaj, ale vlastně tu špěnovu prácivo nadělá za vás. Ne, več kterou špěnovu práci, ale všpráci největšpěná vás, ale to, že neimplementů eksperimenty nebo zbíráni data plotování a to je pravdou, to se hodně zmílo v charakteru my a práce za posledních páred. A pro vás to dle, nebo protože, když se se stáhneme mimo ten vás obor, nebo pro běžný očlověká, tak jsem si měsím, že to hodně o změně majícetů, jak se o ty práci přemejšli. Protože jedna větře je říct, že místo toho, by se to rálně děl, tak budete fůzovká hěnomů, klova tak gentil, ale je to vlastně úplnějí přemejšlení, a jinéj svejíč. Pro vás to bylo předození ten jako přeroch do týletí role, že vidíte strochu iní u hlub, odhu, jako rozumíte tomu, jak ta umělány dalgéce funguje technický tím, jako vás je mzdyláníme založením, tak jak by to vlastně vnímáte, je to jako hodně iní nebo pro vás to jako předození se výdž do tady týrole. Vézpěstlu karijárím progrese, kdy jsem byl píží, jste ksem dělohodně té špěna vé práce, toho ručních implementovány dělání experimentů pro lidi, kteří bylitřeba pozdoci nebo profesorě v neachý výzkomních skupinách, měli negágenty ale studenty nebo studenty, kteří prváděli te experimenty, oni koordinevali tu vysuk úrovní vou vás jesně ževájní toho výzkom, interpratací výsledku a návrch dalších experimentů. Oto je rule, ve ktené jsem dnes a mý studenty a studenty jsou bez mislů toho slavás píš aj agenty neš neš lidé, ale je pravda, že kdybych byl válřeba zůstom na akademické karijárím dráze, tak bych dnes mě o studenty a studenty lidské, kteří by prvádě dělohodně obnomnou práce, takže v tomu na tomu stněrů se pro mě jako vsténě jeně ší výzkomníká nic moc nezmějilo, ale pro jený varnýho práce vníká to moži byt opravdu jiná situace. No to přesně logický, že když bystablou nevrstě, tak bych tady jsou netvě užívá, že koslogy kytofungování universitě a kremický oprostředí, ale bude obodřeba. Na boj, jak se vlastně jako ty studenty, proček by když jeden skarokáždáná hrdy té agenty, tak za par měsí tu zapádat, jako tás kopnot bude ště indé. Tak jaká vlastně bude práce to výzkomníká v těch junovrních letech, protože se to musí na něčem naučit, ale když ho v tom nahradíte aj, tak jak to bude vypadat. - Tohodně spekulo je velé. - Jasně. Já se myslím, že ve vzdelávání výzkom obecně se hojdně to o treningu nedylané problém, když na internetu nebo v nějaké kníze nebo v nějaké učem něci. Tože v tomto myslou ten trening se úplně nemění, protože když jsem veškla řeším lidární rovníci, tak taky nečekám, že postudu hraněci znaloztí v matematy chtím žejí vyřeším. - A. - I je i prváně pochopit. - Jo, musím je prváně pochopit, a vím, že seba profesor někde zarahem vířeší úplně v pohodě lepe, a neznamená to, že aj na níně bylo trenavat. Takže já v tomto nevímám, tože na jednou nejsem nejlepší člověk prvádí, kte operace jako nějaký problém, v tom, jak postoblo tím systémem, je možné što rozbě, nejakou motivatří strukturů, kde když se tak jednoduché se k tomto môže šeším dostat, tak mě to vlastně nemotuje projítím tě mikroky, kterém nevlastně naučí, jak na vyglacenem dostarže. - To je myslím, že může dojít, jak okurčitý jako nivelyzacitý karierní struktury, a v tom, že prostě budou mít všichni stejní nastroje kruce, a vzrén k tomu, že čistě jako intellektuálně může byjt nastajný úrovně student, jako 60-letej profesor, a vůmít obastajný nastroje kruce, tak vlastně tomu, že jako by spíš jako vlastně změnity šance ich na ten úspěch, na to dosažení něčo, ale. - Je to jednast jech možný, když je kudou slastinou, ale uvidíme, ale po neběrdu a. - Ale po neběrdu a. - Grový to z ty cesty jsou jako všel jaký. - Já se myslím, že dobro jako hodně potensi ani radikalní zběna v tom, jak prowadíme výskum. Já se m výskumník vesvém srdcej, to co řeší můf a jel je vestkře občižní výskumník problém z cyvlé začním dopadem, takže já se motivam těme dopady a tím seště ním těch těštých problémů a to, že mě hodně by to stě zajímá, jak to to bude probíhat. Podobná velikára vlce probíha v matematice, je se se nevím je si poslucháči nebo děváci sledují ten výskum v matematice, a jak se radikalně mění díky AI, a ty obrovský rozdílo v tom, jak matematika probíha do neavné době, a už je profesorální matematice, používají agentik tomu, aby dokazvali ještěné, ty nejlepší ne dokázanej výsledský v matematice, ale už na nějaké úrovně profesorální matematiky niší úrovně. Takže to o té době, kdy mě zakevěme roly nebolyskopné sečí smálačí sla Parlec Páltsky, jsme se dostavit dostavok, kdy nejslavnější matematici na světě říkají, že v brské době nejspíště nejdulěštší výsledký v matematice bude dokazvali na pomocí AI, a nejspíš v kolabrát si sledským matematiky, ale neprémárně lidmi. -Sidě to je také radikální vývoje oboru, který nolybest krezalický a. -Vtřejm se že v tý vědě to urychlení díky zapojení AI. To je jako jednastěch, jako vlastně ekstremně slybnejich cest, jak AI vyjúří, když jsme začili to udebatou o tom, že může AI napada tady naším frustruktůrů strategiců a podobně takto je dané. -Já na to, že je také radikální stránká, ale ta pozitivní je, že nám to fakt může ohromně pomoc jako v medicínskim rozvojí a vdohší věce jako urychlovat ekstremně jako výskům do předů a fakty hraníc se toho poznání posovat. -Ji v tom kiverprostoru, ale to je ta správa, kterou se změnival, nejupelně negativní. Tože vidíme pomoc AI. -I kiverpreta ce byla negativní. -Ji tak, no. -Tože vidíme, když jsou v realně v sodfěru, džívne, že vidí hekři a zapečujeme je i veskře pozitivní správa. Na takovém pečvání právě pracujeme hodně aktyvní file, v kolaboraci zhodně úprostu sprajekty. Tak, aby komprávě zajestili, tože když na soupí silné umilajín telegencé možná v kolaboraci slickými hekři nebo autonomně a pokusí se na hekvat naší digitalní infrastrukturu tak nenajdu u tých obět, které by tam mohli byt. Pro, tože jsme je nešte dríf opravlismé a ta defensivní práce má velký levři, tože každá opravná chyba v nějakém centralním sotérvém projektu, který používají 10 miliard z aržízení. Tak na jednou se propaguje v celém tom systému z jednohomísta globalně, takže ta obraná stranka má větře mělko výhodu. Ještě mě zajímalo v souvistosti s AI-sohním louví o demokratizací v různých s tovas městéch v různých uhlách, vycete změlal, že zploupratře teda s vása teda cůrych. Sítím studentem sítím studentem, ale vyste prošel, ale tím je školáme, vyste byl na Cambridge, na stáfor do pokud se na platu, takže tohodno títé je, kož se viděl do popravdu tít top výredský pracovejště, a poksobí ten na nich nebo poksobilo stá. Jako jste pro mění, protože to jsou ty top pracovejště, kde pracují ten největším oský vznikají, největším obevy, bude to furt plátit, že se tytlati universitivu dřej ten H i díky, a nebo ty díky, a jste třeba ty o státím pracovejště, to mojko víc přibližej, nebo je to posřád votí jako to mlyckem faktoru, a ten grudet tam orchestru je, a to je to, jak obevy nebo dokoliv jako takové, jak je tady fomíboj. Pro mě jesit největším, to zílati jisím se, kterého sím si všímal mezi, čeme jelitními universitami v uvozavkách a běžnější byl universitami, byla kvaleta profesorů, profesorěk teří právě, navějgvali ten prostor mešlenek a dávali studentu moh studentkám ty problém nejaktej ich pracovat. To je studentě, často byly podobně dobrý, nebo měli podobný potensi, ale být podobně dobrý, ale nemíle si vybrad z pravněj problém, na kterém pracovat. A v té vědě se může sta, že úplně stejně talentovat na studentkám, vžvěnu jistéjné a množství usili do toho špatného problému takty výsledkě z toho jsou zanit batalné. A když se trefí do spravného problému, tak na jednou svořba tisí skrád větší. Je tam jako vašit, že nebo poslucháčí budu mít pravě vrmě skušnostké čeba zvenče kapitalem, bo zvenče výsí světem, kde pravě ty sásky na ty různé start-upy, spolejhají na to, že nějaký z nich dopadné ekstremně dobré a zapadí zbytek strahtoho fondu. A podobně vědě nějaké stěch větší, které dopadnou mega do brze, jsou více mě to, co poháň ten celkaví pokrokově. Opracně tak, že ten PowerLotry, Ovalada, Vc, Svět a Investování, do start-upů úplně probně platí vědě a v Investování, de myslonek. A lepší skopná z vibyřání těch projektů a myslonek nektych pracovat, něco se regážená rady, kály nezlepšit úspěšnost pracověště. A je to něco, které něco, co by se nále charakterizat jako hočné, bo taste, ale to lidé používají. V tom, jak vybrat ty problémy, a je to něco jako hodněn emperického a něco se všpátně kwantifikují. Ja možná, že AI bude měch podobné a skopnosti, ale dnes je to něco právě v čem, ty uměle indelegencé postované na těch, postované v čech jako Out of Research System'ech, jsou horsí než byš to vejk čekal. V tom vyběry to problému a interpretat se to na čem pracovat. Gdyž te změnival, že po té co antropik oznámil ti, no výnky zmyto sem tak se vám rozdrenčili telefony, symbolický řekl. pro mít nese to idone a jako i biznesové do nějaký bude účnosti, v ajluže se taky samozřejmě teďko začne ozívat na výce jako potenciálních klientů a tak nebo jak to vlastním prvás funguje. Bezpečnost je cvětlené té má já pochřil nemůžímovit o nicím jsou svověsí se zákazníky. A rad prbou jakékoly otázky klem, toho většího prostoru, a myšlené kale. Ale je pravě pro mnáte vysoké úravně, že to, že se zvýšel zájem o ten pro mnáte vysokově. Tak se prapíše do celého oboru. Mě velastně, zegnodom musím tomu hátri zmínyle, ale by to padlo výt výstej fan tropikupu sobyl. Už je to, minímáně v tom sidě je velastně předrala ty vědlou hódo bou. Takže chápuže vysáníme můžete větřeba samozřejmě, k tomu co tam kutítej. Ale pracovoloste v relativně breských dobách an tropiků velatvěním alem tímůj se jsou rozencej a modeovými. Měl jsem dvě jedná pozitímě na negatymi strana. Je to úhledu, kdo je hodnotí. Tak jak vysem vlastně na to koukát, jste už skušionosti, který už zážil fanarice v další vyskůmních labech. Tak jak to hodnotí, člověk, který dost odjojase kásik, kám se to by vyné nebo jako máte stranu, který můfání tě, který můfání tě víc mí. Já jsem si, že pro vstory obravský a nemám žádný oblivený AI-model. Já myslím, že v té dýchlo tom je se zapomíli, který je ten třecií člověk, který právě pravně by pasšel, tajte ale tní skupry vůců velkých froncínal AI-laboratorí. A to je někdo komu teďka nedávno vyšel životopis. Je si od seba stějáná mala byho, který je fakt dobrý, takže dopročuju. A myslím, že to není jako, který je to my samotný resudario, a modej, ale že to jako hodně větší hřiště, na kterém se hré. A moje spušnosti fanatopěk byly úžast, já jsem javu. Já jsem jel ekstémě talentovaná ekology, byl to vlece dinámyc kýtím, níkdy jsem, kromě me práce dnes, nezažil tak bysoce kalibrový tým, který je byl skopná takhle, skopná takhle, kde je kzekut se a tak dobrých nápadů. Takže moje spušnost byla velce pozitivní a věřím, že to myslí dobré. Ale je to rá odmětěžky soubojno. Takže já nemám žádné favorité, a z tem ráče jako konzument, uměla inteligenca ich skopností, tak kompetitivní dynamika vede, kěstní živánícen a svěšvání skopností, cože pro zákazníky a svět super. Ale my mohjí zajem pro nějakou pozitivní moh. Moje je byl se pro pozitivní budou svojí, je hlavně skrze axlerácij věredské hobísku a benefitu prolycstvo skrze tohle to. A v tom právě Deepmind se zdá, že má velký zajem, že by AlphaFold system, který Demesy has sebe sové vyhral, nebo lvůceno zachymi, a Rockspadky, nebo dva Rocky Spadky, se Rockspadky. No. Můž možná. Jo, můžná předloní, můžme si můžeme, že dva cočky. Jo, ale. A než běží, tak ten je co co se mě ho hodně rezanuje. Takže te přímo skěla aplikace na problem, který DKD nebo levěříštělní, lidé nečekali, že to vůbec půjde a na jednou pomoci AI-smrkazali rozlovšnod, takle tůhy oříšek. Je strášně nevěřešených problémů, které mají potensiání obrovský benefit prolyctstvo a civilizaci, a ten Upside pro AI v té vědě obrovský. To je něco se poda mě jako věřejnosti pod nějak hodnoce nebo podočekávane. Mě vidíme aplikace, vidíme, čedbo ty běžnější prazejské aplikace, ale to, že AI umízkla nad protejny a potensiáně nevrhevat nevé vakciny, nebo třeba vidobycup su pravoděč připokrvé teplci a pokovějem tlaku, což by spůzbila revoluci vestrašně domenách, a je to problém, na kterém pracují AI-la, protože i start-upy. To je něco se ma obrovský potensián. Já věřím, že právě hodně to a pozitivního dopadu, právě přídez automatizat se Axler a Cvědi. Zároveň, když se na to podíváte trošku z nějakým odstupem a protáhnete si to napá�le do předů. Tak z té jako optimista, v tom, co ten na stup AI, který vidíme, že ekstrem jenichlejí. Co spůsobí nebo tam jako přecejenom tam vás něco hloda a říka taký to vlastně nemusí dopadnou dobro, protože těch různých obav z náme to zesifikní, že z náme to z filmu, ale to což by jsme předpar lety, že kliže to je vopravdu z cyfy. Tak to vidíme, že se to začíná dít, tak jako to mejšli, který ště trošku netot, krok vejša podíváte se na to společnost z nějakýho jako odstupu vět čího. Já jsem optimista klemitloho dobe budou snostky z AI, ale je podle mě jasné, že je posímá hodně aktyvní práce na zaještěn, které budou snost byla dobra. Jež do nejí budou snost, která je dobra automatických. Máme na stup technoje, která potensí jelá může desceptovat trach práce hodně větší kolem toho, jak se třeba rozděluje politická moc v rám si států a mesestátí. Můž to přepřed mapy hodně geopoletických větří, které jsme výmalé kostabilní. Je to podobně něco se má velký potensí al spůsobě hodně chosu a nestablity a je potřeba aktyvně pracovat na to, aby to dopadlo dobrze. Ale k tomu je potřeba základní rozoznání toho, že je to oprdu velká věc. Já jsem jim, že mezi třeba lidmy, který bedou státy, nejí vždycky jasné, že vní mají na stup AI jako tém, kterém mu se mě levěnovat nebo, které je velké. Já chápuže problému je hodně a klo ten není je jiná věc, ale AI má potensi al mít fakt velký dopad na budou tzn. hodně aspektach a myslím se je se zlouší ještě víc pozarnosti, což z ní parduksně, co všude. Ale ještě víc pozarnosti než nezkema. No, nie to tedy v raci spátky, k tomu co se třeba se větřeba pro věřejnost je ten bývoj ve vědě trochu podhodnocený. Myslím se je spíš. Vlastně to věřejnost uplně nevidí, protože věřejnost vidí je tady chtři pidi, tady klo, týt rejmená, ale vlastně tyčet bote. Což jedneská uplně jako vlastně to základní funkcionalita, ale myslím se že větři na displožnosti a zlogy květři si vlastně jako pod tím představu AI. To je to co vyní vidí, to co jsem už vyskoušet, ale přesně to výv, ale nebo i v tom výdě a výskumu vlastně vypouživáte už uplnějí nej. Samozině jako jen jen tý na vázani na to vůgru samé samostatně a to je vět, kterou si větřin o lidí neumí vůbecaním představit na toši nějak, kterým nepovživat a myslím se je to můžem stáhnouty na těchlavitěch států nebo kokoliv ty na to větřinou kukajstej nějakom nebo jako ty lety lidí. To je se, že to vlastně vôr nějaký mež tě jako edukáci a posunů až si každý mům, že toho svěho jen tě jako postavit, to by je to jednoduší tak to myslím se lidí začenit. To je to vôrně nějaký osobní skušenosti, která tě lidí přivede k tomu uvídomnění, že to je opravdu jako fundamentalní změna, že to je revoluceno. Ono možná ta role vědy v espložnosti obecně je takvá pornočené. Tak polem nějakou větčiná blohobytu a dobrého stavu světaz historí přichází z nějakých fundamentalních věděsích obivů, která chtěl a probnětů dekády před tím nejsterálně propišou jakým ekonomisích ukázat zelov takhvality životal lidí. A typicky zkysitšlové chnou vrmuje na kolek stoji to, že má čistou vodu a že další kvalitnější život nebo má dostídla na kloj toho tostojí na fundamentalních obivě, které v doběk neprobijí hale půsto byly abstrakně nebo nebo nebo přesně takhnebo nepráktycky. Takže to moja možná obecnější problém, že te pogod tu vědu se automatizujeme nebo zrychli mi radikalně pomocí automatizase přemíšling, což se že AI. Tak i kdybychom taj to uznali tak pořád, počebujeme zjistit nebo nějak jako uvěřit tomu, že věda a fundamentalní věda speceficí má velký dopat na svět. A to je něco, co není věgat jak očí vydně, protože to trváčovat dekády než to nějak propiše do realného životal lidí a na jednou to působě jeko běžná věstrá vždycky tak byla. Když měli či vás daléhnou revoluci na sčátku mi nohlo století, která nakrémila velkémelí ardy lidí, tak to dneska není něco ce byli děvní malého radikalní pokrok i přestožuje to materiálně releta, ve které žijeme. A polem je hodně vědelského pak pokrokový pará úplně stejně. Výsme oběvali transistors, nebo bylo výchla bártařích oběvali transistors polovodíčový v působěno vědelského století, tak to také nepůsobělo jeko něco co změjí svět a dneska máme bice štrelího netransistorů úplně všude v káždém zářízení a svět by bez něknem hlfn. Takže já se měsím, že to možá obecnější problém nějaké appreciation toho, jak druhly vždy je vědá provývoj světa. To z toho zrechluje, částišně ve vědě to také je jako nebudde zené na den, ale trbajko dopad v rám si toho v rám se tý práce a tože prostě lidí se budou propouště, nebo budou propouštěny, určitě přijde nevyhnutelně měkterých oblastách a myslím, že je to může byjde ten efekt. - A býkapkol predliže se jehnou jo, tak to dláj vlastně jako velký. Já si nejdeďka je to souučást, je ho recláší pání, jako marketingový, hláší, káta, ale realně se to depends do espůkstu oblo ruu, lidi se budou, musí se přispůsobit, což je vlastně vět kratrach nebolo. Jako 10 kodějí se myslím. - V takový míře. - Pogodí odmodlová in deperná pracovní trech, tak té podle mě na tle komplexity témá, že jako hodně zjednou šinglantoj, jak to dopadné typické nebudou spravna. Já si myslím, že jako modlová dň impactu nějaké nevé technologie, na to, jak bude vybrad pracovní trech nebo jehový vývou brusnosti, je na tle komplex vanávěc, že bych se englévali spekulovat. Pokud je, třeba o internet, tak kolem měho existuje hodně v típů, a mezi ekonomě, a to je ten hlavní motiv těch v típů je, o tom, že internet je vyget všude, kromně HDP růstu. že jako zdase, že by apriory měl spůzbyt velkou revolucy v tom, jak čo by jako rechlosevi vývý ekonomika, ale není vidět v těch křitkách. Niktém nějaký zlom, který by na jednou byl jako očívidně ten moment, kdy se nes takov stalo. To samé, kdyby vám řekl, že bude mít vykypady, a přícup, ke všem zaloztem světa, bez vem mobilů v kapsé neustále. Jako můly katsé zkrajím po svěky tak by se řekl, to určíky bude mít obrovský dopad, obrovské dopady na pracovní trech, nedokávšit představit budou ství. Takže já jsem hodně o patron. nevsem já k jech epistemický humble, v tom hádat, jaký dopadají ty věci bry umíct, protože na tole kompleksní system interakseme z technologii, adopcí společnosti práve, je to jako obrovský problém, který se špatně modulo je do předů. No zároveň historie nás učíže vdycky, díkdyž příšleně a keby jako přelomové revoluční technologie, tak se na konet ta společnost na to adaptovala, a vlastně, že vdyž se je byla průvyslová revoluce tak, takym nelypocit, že všichni zemělce a podobně nebo umíct, co dělat a na konet se prostě obyvili úplně nový profes, se úplně nový discipliny. Takže je možný, že se to bude jako opakovatě, nom v tý, podoby pro 20. pro mní 100 latí. - A teď asi odechlo z tárouce také, také, také, a teď je na posem chcielří těm transistorům, že teď akurat nám to pro píše do tý historii, tak to asi by jako mnohem rechlejší, než na co jsme byl minuosti zvyklí. - Uvidíme, jo to dost otevřená otázka. - Poďme teď kož tě taky trošíčku přecejnom kvám už metari, jako naznačili, že vyste prošel antropikém, byl ste v DeepMindu v Google, jak vyste se dostal k umělí inteligenci, protože vy svojí jako úplně původně nebyla AI vás obo rozájí moje si se neplatulné. - Já jsem půvběk jen tady třecký fizik. - Vydosl jsem šeské republikze, nebo jel jsem hodně fizikálních olempěat, matematický olempěat v soďžích progdomování, to že takárie reblatakvá typická matfězákatřeba. Ale místo, co ste je na matfěsmě, jak osvůzávedl na hým bry, že kdy jsem sterval tevá artickou fiziku, a vydemal jsem se, nebo chytl jsem se jedném čadným děram. To jsem je zaímalo bylo podívacen na tu nejglubší urvéní právědole, které obládají vesmír. Což ve fyzice jsou obecná teorii ronativity, vat ančtajna, akvantová teorii pole. Což obvantová teorii, která popysuje všeci koko kromě gravitace. Tedy dva pilí, že se nedájí dá dohrmany, a ty místa, kde je splu. Teorije nejmén, jsou mla si jsou černé díry a velký česk. A mě zaímalo, jak to je můrhe funguvat, a nakiem rejdři blystý vynhokým, a tým, který se věnovále právě výskumu, na hraněc se toho, jak funguje obecná teorii ronativity, akvantová teorii pole. A já jsem si tomu chcel věneva, a tady kval jsem si to bude to, čemu dedikuje nějak svůj inteleqo ani život. A v roce dva kisíce 15. alfa-go, porazila evropského šampioná vechře go. A se 300 lat předíjímech stom jilo stát, podle předpovědí lidi, který se věnevali tomu, jak rychlá, byde chli bodě vývoj umělaj intelegence. Já jsem si uvědeme, až jsme pravě pro mě o tev želi úplně novou věte v stromu vědění, a že tohle to je obor, kterém musí věneval, protože jeho dopad pravě pro mě bude ohodně větší než jsem si myslal. A více máně bychem rok, a půsem přesedlal na umělou intelegenc, já jsem na strěkničkla hodně programová, to samé a přes vějšku. Ale zálaseme, že uměla intelegenc se specyfický nejít, ktorých pokoroků kolek bych do fožie bude. Ale v ten moment jsem si uvědeme, že hluboké neurnovesíte, což bylo to načím byly postavenátym modulé, které hrálej go. A to bolity větci, které se zále, že nějakým zůzbem potchíky, lignit, co co by se dala předmát imtujecí v těch v těch modolech. Jak odhodnout, odpohodnoutu desku tehry, jak hodnout na tende, tak bude. Tak to se nejspíš stalo, a já si uvědou možnou jsme více mě ni obělý maky, že bych se chyl věnevat tomu, jaký je rozvěd. Takže jsem se skémry, že přes těval do kaleferně, na Stanford, kde jsem sešel já doktorát. A během doktorátu jsem strávil hodně let, mimo akademické prostředí, v Google Brain, což byla laboratorik, kde se trpávy vynou Transformer, tady architektora, na které tené stuji velké a zekvéj modely, kde jsme se vědemal teorí hloboké hlučin, jak hápáň to jak interne fungují nevrne vesíte, až ponjaké sta, že v DeepMine do tržeme, kde jsem se vědemal škálování. A to mě dovedlo, k tomu, že škálování pravě prudně bude, takhý poté z tak, která povedek silnějším AI-modelům, že zvědšelání modelů se zdá, že spolehli vědek vyším vyší inteligenci, úmglají inteligence. A několik mých z námých z tohachrémického prostříky za které nové laboratorř, měrem antropik, odcházal je z uprnejáj, v smysí věnemace, eksplicycní jezikový modelům škálováť a emprickému, všim nedotek postávě nemů eksperimentalního přístupu, k tomu problému, a já se kým předal během těch raných vásí té společnosti. A vysteřekalo, že místo na matfě jsou vás to nakonec daválo na Cambridge, jak to popi se tě z ní vlastně jako valmy snadno, ale je ta cesta vlastně když se jako člověk vytičítu cestu a má se nějaký všechno takte v soumčásti, jako celý hořivota nebo týkaryjery. Tak bylo to vlastně jako také neduhý, že stej jako šil na Cambridge, vybral stasiteno obor a bylo stetám nebo se tami protokdy šnásněk dostá poslucha, tak aby jako vlastně pokopel, jak to funguje, že jasně jel stedou lmíná pak stel do klyforné na stuplastaná sténforty. I jesí to je vlastně jako tak přímočarí, když člověk jako výzáčím majít, a jak to vlastně udělat? - Z nadmůto v žáděm přiběk je nebylo. - To si právě. - Já jsem ve rost na malý věsně chtěchách, takže to nebo něco, co bylo blísky, nebo se byle děkle v něj dělali, jak běžně. - Takže už se děli někodíli nakým. - Už ten jako mentální krok z toho, že to je něco co jako existuje, a co bych mohlo dělat to byla velká věc. V tom se myslím, že právě velká role, já chych rol modelů, a vní mám právě to, že to je něko z nám nebo nebo nebo nebo nebo nebo nebo nebo nebo nebo přestavím, nějakým lidem, který už zládl porbnou věc vynulstě, kovodní velkých faktor v nějakém twarovájí, karier, lidí takže jasvenou mentoringu a mentorvájím laci, s tůrn tůrn těk. Pravědí, k tomuže vidím význam tajé toho faktoru, ale to jsou mě realně ode mklod věře nakým bryč, a potom na Stanford byly s čeršouské sebynáře Olympia, děvče skarě poblice. Což je něco co je do co na světvě unikátní parallelní system zdělávání, který v česku probíha více měná dobrovoněské práci, a dokáže vzít talentovanej studenty a studentky je regionální škol, a vlastně je můžnost sučižit a podkávat porobně legionální lidi v tom obrůkterí je zajímá, a rozvět je parallelní k tomu systemu, který by jel nějakou konstajtně rychlostí a bylo tě pětský zaměřen, na ten průměrní výkon těčí, což dává smysl, dějšné vrhyme školství, ale to bylo system, kterými víra z něj ode mklod věře do světa, protože já jsem skrřeře, s svojíc se svojíc se svojíc se svojíc sehoče, že zajoučím, na látym vyhrávat víc a víc občížnákole, těl o těch soutěží a nakrancem vyhrávat si to vejkolo mezi nárdní olympiády v astranojástrofizice, a tak to první místo globalně my právě do lomožnost do sahnota stipendia a přístup na Cambridge a pozdějí na Stanford. Takym Bridge byla jasná volba, přebo ste přemejšelště o nějaký jako jiný universitě oksvarta, amerika něco. Já jsem jel v té době na bitku z MIT a Cambridge, a rozvět vás se právěme zjí, Cambridge mi se ču se, takym Bridge me spojne kraloství, a víra znam faktora pro něbylo to, že v Cambridge brytání na trenet koléči s pesifický, což byla kolej, na kterou jsem chodil, ta universitla je rozdila na jítlivej koleje, to v podstatě pláštěry porobného charakteru fizický, mají nádvoří a jídelné a lidé v nich bydlí skrzé ročníky a skrzé obory, takže to kvájak by mixovací jako vás. Harry Patrek, kolej, nehry, takže je modellované fá, pohodlí svědit. Na mě hojně zápu se bylo to, že tě profesorří a profesorky mají hojní individuání přísobkem studentům, spesifický na témého koleje, spesifický v matematy se a fizice a informaty se. Takže já jsem jel ho dně jedná jedná, jedná bode vana, jedná ho víky, slidmej, kterží bylejš pečky svých oborů býhem celého baklářského studia. Více nejefkářděm oborů třísem studévala, to bleně se cipla unikátní a na MIT bytřeba nebo tak běžné. To, když tě potom přesto upil z toho akademického prostředí do světa řekněme by znisu byť vysenadále výrujete jako výskumu a rysroči. Čím to bylo motivovaný začal stej jako na sojí pocitovatně, cože prostě byste chcel do tohody na myčtejšího jako světa, že ten biznis prostě utíkáry chlejš nebo, co tam ve vás jako bublelo proťvásto přimělojit z akademí je do startupový vrastředí. Umělaj je inteligencie naštěstí akademí a promysl extrémně blisko. Takže fundamentáň obě v akademického typu, typický za měsíc skončí třeba v nějakém produčím prostředí vězekové modelu. Tože naštěstí je to na tole k bliské a na tole ký jednu důvše vlastně komerici ovat komeršlo zájov. S nad napravé je tam lehko v komerici prvedení, že vlastně to rozhodnutí umě nemusel a být něco jako diskretní odsem prvédl. Já jsem se mohlo rozhodnout, že budou pracovat těch samych problémy jako doteď, ale pracovat na někv v úpnej já je v deepmindu nebo v antropiku, nebo se založe vlastní výskumni startup. Tože v tom to není jáš tak velký překhod, jak by se mohlo zdat, a je to spíš čestky toho obarů v nějlajenteregensen než něco nesokolemně, že ten výskum a prac se so ho dně blisko. Jak to by se, že to není ubyl nevěv všech těch oborech a jaký to třeba finančně? To skoran není výném obarů než v nějlajenteregensen. Tože vlastně výjimečný a jaký to i třeba finančně a jednak vás je mohno címat nechci jako konkrén částky, ale spíš jako to se také odně řeší a tom českým prostředí, tak jako sou i tady tý rozdíli, jako vysmyslodou, že jsou liditřá motivaní do toho soukromíose, kterou protože samozřejmě ten potenciální a psady tam asi mohem větří, ale jak sou vlastně ognocení třeba výskumníci tý akrémických svéře, v Americe v rzůstřebají v česku, co dokáře tý jako porovnat tak nějak z předžádové, aby se se do seda do kontekstu než konkrétní čísla. Ten rozdíl mezi pro myslem a akademí je podobně jako nás obný v Americe jakov české republik se bych řekl. Možná ještě větří v Americe, ten rozdíl mezi, nezitěme větřmi. A je to spůzvené tím, že tí elitní profesorě typický mají nabítky na hodně vysoké pozice v technologických fermách, které typické doprepatí, jak pomoci kěše tak akci, které mají ještě vysí upside pokud do nějaké dobre start-upy. Takže ten rozdíl oprude velký a spůzbujete nějaké viděra "Hlowing-out" akademě. kde ty profesor, že ty by jdi, kde by na sojpli do nějaké kamerezšních pozitře, ale ta druhá stránka té věci je, až dohodně omézujeme zvěstka po nást pracovat na problém, na problém, které nejsobřím aplikvatelné nest, a v tom svěrůvízkom, který je třeba se zdáže funguje, ale nemusí bít něco, co vůrůcnosti budat ten hlavní směry. Javním mám, akademě něco extreme je dobrý repozytář potensialních buducik sáze, které můžovít. A něco se lokal, že imkubovat nezávisl na přímych kamerezšních trotplacích, protože kdybych zbojívali do historie, tak optymázi zvat pro kratko doby jen nějaký ekonomický výkon. A kedy je únikáně dobré postavená, které je to inkubovat na pady, které lokalně nemají ten ekonomický potensial, ale nejakou šance, že dloho doby je ten dopad budu mít. Takže já si myslím, že občas je se své takvě trendy, nebo takvá tendense, tak jak byte kodismy se v akademě je hríci to nepráktycké nemáci no na ten pracovat, ale extrémně, že se odhoduje, co v budou snosti budé kložité. Kdybychom bývali tohle to udělali dávnopředezikovými modelí, možná níkdy tenápad, které právě vedli, k tomu řednestká máme, čečí piti, klood by vůbec nemusel na existovat. Takže já si myslím, že bychom něli byt opatry v tom, jak ceba hodnotíme praktičnostě mo nepráktyčnost věci, protože níkdy nevíme jaký dopad to bude mít. A proto si myslím, že ekstémny dložte právě fan-dvát fundamentalní výskom, protože to je to podhoby, které horyste budoucí ekonomický růst. Jedu ještě rás amazone, a trevalo dekády nech se stavlá stalo něcoc s rápa užít, adneská souto miliardy vhodnotě, ale dejtí, k tomu můžu jat něco, co před tím nemolej můžu, čba zhubrou, nebo je zláka veho. Takže to má velký pozitivní dopad, ale je to něco za zeslozně čeho, co apriory působí jako hodně nepráktycský akademický výskom, který bychom neměli plakit pokud bychom se zaměřevolená krátko doby horyzont. a jsem dlouhle byjším horezám tu konkrétně vidíme, že ta jinak konkrétní případ ještě rásnákým jedem védl k velkýme kramickým dopadům. To je a jsem hodně apatra, několom tohle toho. Tak tady můstačí, nemůsi běhá ni chodí do Amazoni, že jsiho stačí se vzít panaprofésořa Antoni Ngolego, který dneska jeho ustav, uhap, myliardový ustav díky licenciím za jeho výskumy, takaleta nějho výskum, který začínal v 70-ich látech, tak ten dlouhý rok, kdy tam byl někde vesklapie, čil mnoha ústry kumní grumu, klasně nevěře, dělali si z ní legrací a neskato jako pomahále, čit aýc, a no bohá ivé, a další jako závážního nemocnění, no takže. Udora ukázka. Jo. Jeden ní gré neví. A poda mě skla ukázka, tady toho jsou byla vylabratoře, což byla vylabratoř z telefoní společnosti Bel, Vespejdých sátek, ta společnostně na monopól na telefonní komunikace ve 200-em stolatí vespejných sátek, a díky to může byla ekstremně bohá táměla dobrou pozitřit, tak platila vlakémnoj svý výzkomníku a výzkoměc, hlavně travýskomník v té době díky džen dravému ženovým nerovnostem, který jí se vlastně vědvali poľno časově i enfundemetalní mu výzkomů, který nevedl k žádemu příme mu benefitu té společnosti, té telefonní společnosti. Ale ta hlata belavala baratoře in něco, z ču nakřem zješlo. Cel výčelikon volevil. Česně tak, a tom mu stávěl. Osum na belových sen transistarej sami osobe, polové kýčvé by bylo něco, co by jako globalní zapojitilo úplně, to jsou selo vět, ale nejnam to, tak je solární panel, první optické kabelé, první telekomné kličník sáteléce na abižné dráze, to dělali také oni. Strašně moře uzných věcí, nakoncí děj se, ehry se dokonce výnovali neurnovým sítím a prvním velziým klantových počítečů, takže je to něco, co se spen, velo se lehsto letí, a výnovalo se fundemetalní obýskumu, který nekonce odemklost rešně veliké, lošně zdroje bláho bitu, ale původně to bylo jedom sázka na nějaký blůská z výskom, který nepůj se bylo praspektyvně. Ale je to přesně vět, kterou dneska ty korporace prakticky nemají šanci udělat v reakci, nebo ekso potlakem akcionářů a na výsledky a tak přesně jako fundovat takle velkou věc je prakticky jako nerealní, tu mnešním světě. Já bych řekalo, že to není eštak tragické, coba Google Brain, ve kterém jsem pracoval byla Academy Skala Bartosz věnoující se výskumův uměla inteligenci, a tady výskum bylo hodně akademického typu. Na postadějí jsem se díval kolik utřáci alphabet za R&D, tak to bylo víc nejcela brytáné za veškéry výskum. Takže tyhle ty korporace, čoba Google zpecefici, udráci fakt hodně peně z výsku ma bývoj a často v doménách, té nepůsobí, že mají jako blisko-komereční, blisko-komereční upletnění. Coba nez tě je možné, že kvantové a počíte, či jednou budou co stí budou mít vlých komereční. Kto je někto něco, co bylo očivětné teď. A Google už lehla investuje do výskumů kvantových počídečů. Takže je to něco, co se děje možná v měším mýřeně štěch bylo výchlabaratorí, tý byly unikátně velké, měle poda mě vesvé největší velikosti 15.000 zamiastánců full time na výskumů vlastně fundamentalní vědy. A Deep Mindsřeba samozobě je hodně výsku a organizace. A před tím nechřeba, čečí být je zlechlo ten závot, mě zetěméla baratorřeme. Tak ta cesty bly ještě víc zaměřená ten výskum těch širokých možností, toho, co by potens a něj jednou mohlo fungovat. Podmějště, dom na závěr zhodnoti, díme sebe veli o vašem přestupu z akademí je do komereční svery. Tak vyste se taký vlastně, tím, že se s on růvlčkem zplů z Akadal, ale tak. Taký vlastně přesíl se Ameriký po 10 latech podstatě do Česka. Tak jak to. Tak to hodnotíte, co na to říkáte? Tak já to nejsem prvě, já jsem ček. Vydosl jsem tady. Ale tak žilest te dlouho stežil. No, Americe tak jak to stetiko už máte nějaký čast stetary, tak jak to hodnotíte nebo jak. Podemě české zklázd, zám mě je zvokým potensi, ale já jsem tady moc ráta, jsem hodně štěstni, jsem spáldský doma. Jo. A v tom aj výskumu cítíte, že třeba se ta situace u nás jako zlepšuje, protože. Je to určitá domena, která je ve který česko bylo možná, o něco lepší, než bytře měl jako velikost jako mohla říkat. Tak cítíte tam nějaký progres, a nebo. To ráčuje byl te komento. No, to vžavěm příběge, jako mět velkou. Protože, já jsem jste měs tím, že máme velké mneství, hodně dobrých lidí, dobrých výskumníkový, výskumět zterí, dělají s jětovou vědů. Nemě to něco, co by. Kou neexistvola u nás. Ale to rálně těžký problém prmalo zeme, protože malá země může, jako česká republiká efektivně může nabírat lidě, česká Slovenska možná jakých okolných států. Ale, co byl proti spojením státům, které vlastně dokáží vybrat nejlepší talent z Teleho světa, jsme velké nevíhodě, díky to může ten náš potensiální talent půl johodně jelý mitovaněší. Takže myčeli mě nějakým jako fundamentalním problémů v tom, jak co byl přelákavat talent a rozvědho. Ale myslím si to vžádném připel, kde je nestracené, že máme. minimálně v inženě ringu, hodně kvaledního talentu, který. vělokálně. dgry z pozici starta půl má výskumím skoprám, a že to co často chybí souhrá o tímě, kdo jste rečně ambicílo z ní a zájímavé alákavé výzvěná, kterých pracovat. že pokud máte něco, co je realně velký projekt, a realně můž mít velký dopat. Tak, jak jste ho dělí, který jsou právě náčení z toho, že by mohli kěnčím, mohli tak vému přispívat. Takže já si. to, jak v dní mám tu situaci pokud tého talent české republice, tak jsem velice překvapen, nebo z pochy, in stím jak vysoký ten talent je. A myslím, že pokud čo meď přihodí hodně silnou ambicílo z ní missy, jak máme či bafil, cože vyřešitky bryběs večná z pomocí AI. Tak na jednou dokážeme vytuřit kohezivní směr, v kterém ten talent je použití a dokážeme k jadvolké a věci. Takže já si myslím, že české je na tom a pro do do brze a máme hodně dobrých fundamentů, které k tomu přispívat i česká republice, jak je hodně bezpečná rolatyvně. To prosperující země, z doblím zdravěkěn svím, doblím vkostvím, práha je do cá dobrý klima. Všetkě tak dobre je klima, všetká republice, česká v práze konkrétně, se do brze chodí je do brá, hromá do prava. To je ty věci působý trivěalně, do kucy nevydeme, že dřešt býlíte někde jen tak nejsov ten záklat, ktří máte vžických. Já jsem, že jsem francisku, hromá do pravá je ohodně hodně hodší. A to bezpečná s mě situace je výrazní problém, čeba pro slově, který chceme troděnou, nebo se nějakou hrobe usaděc. A různámi stávají různé výhody, ale myslím se, že zrná práha konkrétně jedno z nejlepších míz, vychterém se budi žel. Takže, v tom jsem moc ráč jsem tady. A v tom láka, ani vlastně těch mozků ze světa. Je to ostatnějítem, a třeba profesora mychala pychoučká nového rektrá ČEV-UT. Jak vytou vlastně sledujete, protože se do něj jadou tohěho tímu vkládejí velké, na děje, v tom, jak smůže dahjíbat, z tím jednaks čEV-UT a potenciálně z celou to okremmickou sferou, je to věvašem zvašou pohledu, a z tělěstím do toho mychala pychoučká. Má jako jeden můž potenciál z tím tak výsnámě zahybat, aby se to posumlo tady stím sněren, nebo tím jako to vyzí, kterou on má. Jo zvěřím, to může, že historie tvořená právět tím je velkým lidmi, kterí srefůjí na těch volná historie. Nejít o ten šlověk sám a sobě, nejít o jen ta historie, která odno nejmí lidí, kterí vykonávají nějaké role, ale že je potřeba te individuální agent se v prvádě ink té vyze. A já jsem si můži jeden můž dokáře, konekrétně vyhyho případě potenciálně hodně pozvednout český výskům a vývoj. Vzem velký fanoušek a dofám, toho věřím, to můž dopadne doprze. Pokudou lák a nítalantu zvenku, tak my v ajo jsme hodně úspěšný v tom, na byjnout lidem možnost relákuvat do prahy. A máme lidik, který se znamy přesnulé právěk tam do naše výsku meho inžnýrského centra v práze za spojných států zbrytání za švícarska nebo z Israel. Takže prnás není až tak nemožné nejci globalně ten ideální talent tedy chceme, a nabíjnout mohláka ceda prahý a právě pracvat rejlokalně zůjíme ráváná městí. Ne dele kodsud. Tak super. Tako držíme palce. O vašich výsledík se rozvímé zase z nějakým zpožděním. v tomu. To jsme zvůženě vývo, ních tykane můžete mluvý, ale počítám, že už kutáte na něčem další mě. Tak zříme palce, a zase ní dna věno slišenou. Dík máš. Jděl. Jděl. Séský. Dík.

Podcast Summary

Key Points:

  1. Model Claude od Anthropicu (mytos) způsobil revoluci v kyberbezpečnosti díky schopnosti autonomně objevovat zero-day zranitelnosti v kritickém softwaru.
  2. Reálné výsledky ukazují, že AI modely dokážou najít hluboce skryté chyby v systémech jako OpenSSL nebo Linux kernel, které unikaly lidským odborníkům po desetiletí.
  3. Tyto schopnosti nejsou unikátní jen pro velké laboratoře – existují i u menších modelů včetně open-source, což zvyšuje riziko zneužití.
  4. Společnost ILE již dříve prokázala podobné výsledky s vlastním AI systémem, který objevil desítky bezpečnostních chyb v kritické infrastruktuře.
  5. Trend zrychleného vývoje AI schopností bude pravděpodobně pokračovat, přičemž klíčová je spolupráce mezi laboratořemi a bezpečnostní komunitou.

Summary:

Rozhovor se zaměřuje na revoluční schopnosti modelu Claude od Anthropicu v oblasti kyberbezpečnosti, zejména jeho schopnost autonomně objevovat zero-day zranitelnosti v kritickém softwaru. Host Stanislav Fort vysvětluje, že tyto schopnosti nejsou zcela nové – jeho společnost ILE již dříve dosáhla podobných výsledků s vlastním AI systémem, který objevil desítky bezpečnostních chyb v projektech jako OpenSSL nebo Linux kernel, a to i s využitím menších open-source modelů. Diskutuje se o tom, že tyto schopnosti se rychle šíří napříč různými laboratořemi a že omezení přístupu k modelům není dlouhodobě udržitelné.

Klíčové je vnímání této technologie jako nástroje pro obranu i útok – AI pomáhá jak při objevování zranitelností (defenzivní role), tak při vytváření exploitů (ofenzivní role). Trend zrychlení vývoje AI schopností bude podle hosta pokračovat, přičemž spolupráce mezi laboratořemi a bezpečnostní komunitou je zásadní pro zvládnutí tohoto „civilizačního problému“. Malé české startupy jako ILE ukazují, že i ony mohou konkurovat globálním hráčům a přispívat k bezpečnosti celého digitálního ekosystému.

FAQs

Model Claude od Anthropicu vyvolal velkou pozornost hlavně kvůli svým schopnostem v kyberbezpečnosti, zejména při objevování zero-day zranitelností v softwaru. Tyto schopnosti byly demonstrovány na systémech jako OpenBSD.

Claude dokáže autonomně objevovat skryté bezpečnostní chyby v softwaru, včetně těch, které existovaly desítky let. Je schopen provádět exploitaci těchto zranitelností, i když tato schopnost není veřejně dostupná.

Model Claude je přístupný pouze na pozvání (invite only) a je velmi drahý. Anthropic omezil přístup kvůli obavám ze zneužití.

Schopnosti detekce zranitelností u Claude nejsou radikálně odlišné od toho, co již existuje u jiných modelů, včetně open-source modelů. Exploitace je však nová a ofenzivně laděná schopnost.

AI pomáhá jak v ofenzivní, tak defenzivní stránce kyberbezpečnosti. Může autonomně objevovat a hlásit zero-day zranitelnosti, což zvyšuje celkovou bezpečnost softwarových systémů.

Hlavním rizikem je možné zneužití AI pro ofenzivní účely, jako je vytváření exploitů. Tato schopnost se může šířit mezi modely, což představuje bezpečnostní hrozbu.

Chat with AI

Loading...

Pro features

Go deeper with this episode

Unlock creator-grade tools that turn any transcript into show notes and subtitle files.