Od AI experimentů k firmě, kde agenti opravdu pracují (s Daliborem Mrázem)

Dalibor Mráz je jeden z mála lidí, kterým se podařilo vyprodat obří konferenci o AI a na pár dní udělat z Ostravy hlavní evropské město AI.

„S tím brutálně nesouhlasím. Brutálně.“ Tohle jsem Daliborovi řekl, když jsme řešili, kolik prostoru dát AI agentovi. Já chci, aby model u složitých úkolů co nejvíc přemýšlel. Dalibor chce hlavně zabránit tomu, aby si při práci s firemními znalostmi sám domýšlel pravidla.

A možná právě proto, že se občas neshodneme, je naše diskuse extrémně zajímavá.

Dalibor vede ČERNÁ.AI a staví AI řešení pro firmy. Společně probíráme, co se musí změnit mezi prvním povedeným demem a systémem pro každodenní práci. Dostaneme se k vlastnímu softwaru, datům, firemnímu kontextu i kontrole agentů.

AI může týmu postavit software, který pak pracuje podle pravidel

Když se řekne AI ve firmě, lidé si často představí chat, který za ně odpovídá na otázky. Já v rozhovoru upozorňuju ještě na jednu příležitost: tým si může s pomocí AI vytvořit vlastní aplikaci nebo automatizaci. Hotový program pak opakované kroky provádí podle nastavených pravidel. Nemusíte při každém spuštění znovu doufat, že model dojde ke stejné odpovědi.

Dalibor k tomu přidává pohled člověka, který podobná řešení zavádí. Prototyp pro pár lidí snese improvizaci. Ve větší firmě potřebujete určit, kdy se má model zapojit, s jakými daty může pracovat a jak poznáte chybu dřív, než se rozšíří do dalších procesů.

Firmy často čekají, až budou mít uklizená všechna historická data. Dalibor nabízí jednodušší obraz. Nemusíte čistit celé moře. Vyberte si jeden konkrétní problém a vytvořte pro něj menší datový bazén: podklady, které opravdu potřebujete, pravidla jejich ukládání a člověka, který za ně odpovídá.

Takový začátek zároveň vytváří návyk. Nové informace už vznikají v použitelné podobě a tým může bazén postupně rozšiřovat. AI pak nestojí na slibu, že jednou bude dokonalá firemní databáze. Pracuje s výsekem, jehož význam lidé znají.

Firemní znalosti potřebují kontrolovaný zápis

Dalibor popisuje systém složek a pravidel, podle kterých AI zpracovává nové informace. Nestačí ale nechat model po každé schůzce automaticky přepsat firemní znalostní bázi. Poznámka vytržená z kontextu se může propsat na mnoho míst a později vypadat jako potvrzený fakt.

Proto spolu mluvíme o standardu pro zápisy, dohledatelném zdroji a lidském potvrzení důležitých změn. V mém systému PACT jsou také oddělené pracovní přepisy, projektový kontext a potvrzené znalosti. Agent může nové informace najít a navrhnout změnu. Přepsat dlouhodobě platný fakt smí až po kontrole.

Kolik volnosti má agent dostat?

Tady se s Daliborem neshodneme na první dobrou. Já chci, aby silný model u složitých úkolů co nejvíc přemýšlel, připravil plán a upozornil mě na cestu, kterou bych sám přehlédl. Dalibor se obává hlavně situací, kdy si model začne domýšlet pravidla pro zápis nebo měnit význam informací, na které se později spoléhá celá firma.

V praxi záleží na druhu úkolu. Při hledání možností lze modelu dát široký prostor a plán ještě nechat zkontrolovat jiným modelem. Když zapisuje potvrzené firemní informace nebo mění produkční systém, potřebuje přesnější hranice, záznam změn a člověka, který výsledek schválí.

První projekt může být obyčejný přehled stavu práce

Dalibor navrhuje začít jednoduchou evidencí stavu projektů. Tým si určí, kdo může stav změnit, kde se změna ukládá a jak dohledá předchozí verzi. Když se pak kdokoli zeptá, v jakém bodě projekt je, nemusí skládat odpověď z několika chatů a starých dokumentů.

Já k tomu dodávám, že takový postup dnes může tým postavit i v Codexu a nechat ho pravidelně projít vybrané zdroje. Podstatné je začít úkolem, jehož výsledek jde zkontrolovat. Na něm se ukáže, která data chybí, co má dělat automatizace a kde musí rozhodnout člověk.

• Vyberte jeden opakovaný úkol, pro který máte dostupné podklady a poznáte správný výsledek.
• Uspořádejte potřebná data pro tento úkol. Se zbytkem firemní historie můžete pracovat později.
• Oddělte pracovní poznámky od znalostí, které mají agenti považovat za potvrzené.
• U každé automatické změny určete, co se zapisuje samo, co se jen navrhuje a kdo to kontroluje.

V celém rozhovoru probíráme také propojení AI s interními systémy, rozdíl mezi osobním experimentem a firemním provozem i to, jak si oba vytváříme prostor pro učení. Video najdete nahoře na této stránce.