Thread by @hercegtomas

🧵 VLÁKNO Z KEYNOTE #MSBuild

Letos se konference Build odehrává v úplně nové budově Seattle Convention Center, která vypadá fakt nádherně. Obrovský, moderní a prosvětlený prostor, který pojme tisíce účastníků.

Fronta do sálu se tvoří už teď, hodinu před začátkem.

(1/x) twitter.com/i/web/status/1…

Sál pro keynote je obrovský.

Oproti roku před COVIDem, kdy experimentovali se streamováním keynote do desítek menších sálů, se letos opět vrátili k formátu jedné velké místnosti.

Začíná se jako obvykle soutěží Imagine Cup. Všechny tři projekty, které se dostaly do finále, využívají AI v oblasti zdravotnictví. Vyhrál tým, který se zabývá pomocí dětem s poruchami sluchu. Ostatní týmy řešily rozpoznání TBC a srdečních chorob pomocí rozpoznávání zvuku.

ChatGPT lze přirovnat k přechodu od jízdního kola k parnímu stroji.

Čeká nás 50+ nových oznámení. AI bude v každé aplikaci.

Začínáme Search groundingem v ChatGPT (ověřování informací, které to vyplodí).
A čeká nás Windows Copilot.

Sada nástrojů Copilot Stack. Podpora pluginů pro ChatGPT - jednotný extensibility model.

Pluginy do ChatGPT umožňují dostat do výsledků vyhledávání např. aktuální nabídku produktů nebo rovnou provést objednávku.

Copilot ve Wordu může generovat odstavce právního textu, nebo třeba ověřovat jejich platnost a aktuálnost vůči současnému znění…

Integrace na mnoho služeb a otevřený ekosystém extensions.

Azure AI Studio - trénování modelů, grounding, vektorová databáze, zabezpečení…

Microsoft Fabric - prý je to podobně velký announcement jako uvedení SQL Serveru. Jednotné úložiště dat, analytics, napojení na AI, jednotný business model, reporting, governance…

Důležitá otázka je proč to děláme.
GDP jde ruku v ruce s HDI (human development index), který reprezentuje kvalitu života.
Pozor, ta škála je logaritmická, takže ta exponenciála je ještě mnohem drsnější.

AI může například pomoci dostat média a informace i do různých zapadlých regionů, kde mají různé dialekty nebo jazyky a tak nízkou gramotnost, takže se pro ně třeba ani nevyplatí vydávat noviny.

Nyní je na pódiu Kevin Scott, klíčová osobnost v oblasti AI.

A je tu i Greg Brockman - spoluzakladatel OpenAI.

Diskutují o tom, jak vůbec přišli na to udělat chat z modelu, který jen generuje pravděpodobné pokračování zadaného textu. Nečekali, že to bude takový úspěch - chatování je vlastně jen “side-effect” toho univerzálního modelu.

V budoucnu nás prý čeká rozvoj v oblasti vision capabilities, tedy v práci s obrazem. Tam je ještě, na rozdíl od ChatGPT, spousta možností, které nejsou vůbec prozkoumané a kterým se nikdo moc nevěnuje.

Platforma je když…

Vývoj pluginů bude to, co nás v následujících letech možná bude čekat.
Existují tisíce aplikací, kde to dává smysl.

Pořád je to ale o vyvinutí skvělého produktu. Model sám není produkt - přidaná hodnota není v tom vyvinout tenký wrapper nad modelem.

Copoilot Stack obsahuje mnoho věcí:
- embeddovatelné UI a plugin interface
- orchestrace - filtrování promptů a odpovědí, grounding, spuštění pluginu
- model

Microsoftí open-source projekt Semantic Kernel řeší část orchestraci.

Pracuje se na Media provenance tools pro odhalení generovaného obsahu.

Tohle bych na keynote nečekal 🙂

A už je tu klasicky Scott Guthrie aka Red shirt.

Nejpopulárnější nástroje pro vývojáře co do počtu uživatelů.

GitHub Copilot X byl již oznámen před pár týdny.
Chat pro vysvětlení kusu kódu, generování test casů nebo shrnutí pull requestů.
Umí i věci typu “rozděl validaci do více metod” nebo “fix the bugs in my method”.

Umí to slash commands - stačí napsat “/test” a generuje to testy.

Zatím to není dostupné pro všechny, ale účastníci Buildu dostanou přístup k této funkci ihned.

Pro vývoj jednoduchého pluginu stačí přidat manifest s metadaty pro člověka a (o něco podrobnějšími) AI.

Stejný plugin může fungovat na mnoha místech.
Možných využití pro napojení na firemní data se nabízí obrovské množství.

ChatGPT interně používá Cosmos DB.

Dostupné modely v Azure OpenAI. Lze je fine-tuneovat pro vlastní použití a napojit je na search pomocí Azure Cognitive Search.

Vše je izolováno od ostatních zákazníků a nevyužívá se pro trénování nových modelů.

Azure AI Studio - jednoduché rozhraní pro vývoj AI aplikací.
Lze uploadovat vlastní dokumenty, napojit na Azure Cognitive Search, a nově i omezit odpovědi na poskytnutá data.

Prompt flow je nová možnost - poskytnutí kontextu o konkrétním uživateli, flexibilní skládání promptu, a designu průběhu konverzace. Má i nástroje pro testování, monitoring.

Nová služba Azure AI Content Safety. Microsoft bere zodpovědné používání AI jako nutnost, a i my jako vývojáři bychom to měli řešit jako integrální součást dané aplikace.

Můžete nastavit parametry, co považujete ta přípustné chování nebo témata, a editovat blocklisty.
Lze využít i samostatně pro vlastní open-source nebo customizované modely.

Nyní konečně od AI k Azure.
V následujícím roce plánuje Microsoft otevřít 120 datacenter - to je jedno nové každé 3 dny. 🔥

Slibují, že v roce 2025 budou využívat jen obnovitelné zdroje, do roku 2030 chtějí být uhlíkově negativní, a do roku 2050 chtějí odstranit všechny emise CO2, které za celou historii do atmosféry Microsoft vypustil. 🍀

Digital Twins umožňují nasimulovat celou továrnu před tím, než se začne stavět.

Microsoft Fabric je kombinace několika produktů - sjednocení úložiště, business modelu a governance.
A samozřejmě bude mít Copilota.

Keynote končí, pokračování zítra.

@threadreaderapp unroll please