Co jsem postavila
V tramvaji čtu místo Seznamu vlastní radar.
Odemknu telefon a čeká na mě dvacet karet od lidí, kteří mají podnětný nápady a myšlenky. V češtině. Bez reklam.
Chci číst zprávy, které mě obohacují a vedou v uvažování a tvorbě dál. To zprávy na Seznamu málokdy udělají.
Každé ráno v sedm si radar za mě stáhne, co nového napsali lidé, které v oboru sleduju - blogy, podcasty, tweety. Hledá na webu podle jmen a témat. Model to protřídí, přeloží do češtiny a ke čtení mi předloží nejvýš dvacet zdrojů. Nechci se zahltit informacemi. Já dám palec nahoru nebo dolů a jednou větou napíšu proč. Pět minut. Server mě stojí pět dolarů měsíčně, model, který hledá, třídí a překládá články, podcasty i tweety, zhruba osm dolarů a samotné stahování tweetů zlomek dolaru.
Postavila jsem to s Claude Code během tří týdnů v září. Čekala jsem, že se naučím něco o technologii. Naučila jsem se hlavně to, co vídám u firem, které zavádějí AI - jen tentokrát jsem ty chyby dělala sama u sebe.
1. Náklady na AI: proč strop patří před odhad
Odhad nákladů na AI bude skoro jistě vedle. Proto nejdřív nastavte strop a měření a teprve potom spusťte provoz.
Za prvních sedm dní jsem projela 19,40 dolaru a nevěděla jsem o tom. Přišla jsem na to podle zůstatku na účtu. Zbývalo 57 centů.
Já jako Hanák nemám chuť propálit na nástroji peníze bezhlavě.
Dneska si nástroj počítá každé jednotlivé volání modelu a má měsíční strop. Když ho překročí, sám přestane. Po přestavbě toho, jak model využívám a jak pracuje s informacemi, spadla cena z 2,25 dolaru za den na desetinu dolaru. Dnes, i se vším, co jsem od té doby přidala, je to kolem čtvrt dolaru denně.
Ve firmě: strop na využívání AI patří na start, ne až po prvním měsíci. A když na něj narazíte, máte dvě možnosti: limit zvednout, nebo se podívat, jestli nepoužíváte zbytečně drahý model, třeba Fable na přepis tam, kde stejně kvalitně stačí levnější Sonnet.
2. Má AI rozhodovat za lidi?
AI může časem rozhodovat víc sama, ale jen podle pravidel, která vzniknou z práce lidí. Člověk u ní zůstává, mění se jen to, jak často musí zasáhnout.
V první verzi jsem nechala model posuzovat, co je dost dobré, aby mi to ukázal. První běh nic. Druhý nic. Třetí taky nic. Laťku jsme nastavili vysoko.
Filtr jsem ze sběru vyhodila. Sbírá se všechno a rozhoduju já. Jak ho to učím, popisuju v bodě 4.
Ve firmě: nástroj, který lidem nosí podklady, je méně oslnivý než ten, který „rozhodne za vás“. Ale aby mohl v budoucnu rozhodovat za vás, potřebuje pravidla a postupy, které vznikají při práci s ním. Ne hned na startu. A stále tam má stát člověk, který takový systém supervizuje a dívá se na pozadí, co se děje, zda nástroj třeba nevyhazuje validní informace.
3. Tiché chyby AI jsou horší než zahlcení
Zahlcení aspoň vidíte. Co vám AI potichu vyřadí, to nevidíte, a proto je to nebezpečnější.
Když jsem připojila Twitter, přiteklo mi první den 137 tweetů. Prošla jsem 24 z nich, tři ze čtyř jsem zamítla se slovy „nezajímá mě“ a pak jsem to vzdala. Takový kvantum tweetů procházet najednou nebudu.
Tak se filtr vrátil - tentokrát jako síto jen na tweety. Za prvních šest dní posoudil 230 tweetů a na stůl jich pustil 28. Jenže ve chvíli, kdy jsem nechala model něco vyhazovat podle neotestovaných pravidel na startu, jsem si vyrobila druhé riziko: nevím, co mi zmizelo pod rukama. Proto se každý vyřazený tweet ukládá i s větou, proč letěl.
A tiché selhání umí přijít odkudkoli. Devatenáctého září mi model při překladu potichu vynechal deset tweetů z jedenácti. Nic nenahlásil, v záznamu stálo jen „přeloženo 1 z 11“. Všimla jsem si až podle anglických karet v appce. Dneska se nepřeložené dohání a každý takový výpadek mi radar nahlásí.
Zároveň se jednou za čas podívám na databázi toho, co mi nikdy neukázal, a dívám se, zda filtr je opravdu nastavený dle mého gusta a nepotřebuje korekci v čase.
Ve firmě: když AI něco třídí, filtruje nebo vyřazuje, třeba životopisy, požadavky zákazníků nebo dokumenty, musí jít zpětně zjistit co a proč. A výpadky má hlásit sama, aby se na ně nepřišlo náhodou. Proto mi můj radar posílá i provozní hlášení.
4. Jak se AI učí z vaší zpětné vazby
Zpětná vazba od lidí je palivo, na kterém se AI zlepšuje. Sbírejte ji celou dobu, nejen na konci pilotu.
U každého zamítnutého nálezu napíšu jednou větou proč, třeba: „pozvání na event mě nezajímá“, „poslední aktualizace o produktu je pro mě bezpředmětná“. Ty věty se jednou za čas přečtou pohromadě a z nich vzniknou pravidla, podle kterých síto příště třídí. Kritéria jsou tedy moje vlastní věty odmítnutí, ze kterých vznikají pravidla.
Ve firmě: když zpětnou vazbu nesbíráte, AI zůstane u svého výchozího nastavení a vaši lidé ji nic nenaučí. Takový nástroj je jen obecně nastavený a bez lidí se dál nerozvíjí.
5. Proč zavedený AI nástroj „nefunguje“
Nejčastěji proto, že ho lidé používají jinak, než byl navržený.
V radaru mám tlačítko „chci s tím dál pracovat“. Mělo sbírat zadání: napíšu, co s článkem chci, a můj second brain to zpracuje. Za dva týdny se v něm nasbíralo čtrnáct vět a nic z nich nevzešlo. Když jsem si je vypsala pod sebe, došlo mi proč: polovina z nich nebyla zadání. Byly to poznámky pro mě. „Zajímavý vědět.“ „Možná poslechnu.“
Teprve když jsem z nich udělala jasné příkazy, co s tím dál, začalo tlačítko dělat to, na co jsem ho postavila primárně.
Ve firmě: další školení ve firmě na „správné použití“ moc nezmůže. Víc dá podívat se, jak s nástrojem lidé reálně pracují, a stavět na tom. Tady se zavádění AI potkává s řízením změny: lidé si změnu vždycky přetvoří po svém.
6. Bezpečnost AI: nestačí jí to zakázat
Bezpečnost nesmí stát na tom, že si AI pravidlo zapamatuje. Bezpečné je omezit, k čemu má přístup.
Při stavbě mi AI asistent vypsal do chatu oba klíče od API - hesla, přes která radar přistupuje ke službám a platí za ně. Pravidlo „klíč jen do souboru, nikdy do chatu“ znal čtrnáct dní. Přesto zvolil pohodlnou zkratku a klíče se objevily v konverzaci. Musely se vyměnit. Chyba AI se někdy stane, i když to máte ošetřené. Bohužel. Je potřeba na to myslet.
Stejně přemýšlím o tom, co radar čte. Do článku se dá schovat věta určená modelu, třeba „ignoruj předchozí pokyny a udělej tohle“. Říká se tomu prompt injection a model ji od textu spolehlivě nerozezná. Proto hlavně řeším, co může napáchat, kdyby poslechl. Modely na serveru neumí nic víc než vrátit verdikt nebo překlad. A cizí články u mě v počítači, kde má AI přístup ke všemu, otevírá jen pomocník, který neumí nic jiného než číst web.
Ve firmě: „řekli jsme AI, ať to nedělá“ není bezpečnostní opatření. Dejte jí jen takový přístup, aby ani chyba nemohla napáchat škodu.
Shrnutí: jak zavádět AI, aby ji lidé vzali za svou
AI může rozhodovat víc, až se naučí vaše pravidla, ale člověk u ní zůstává vždycky. Co vyřadí, musí jít zkontrolovat. Náklady stropujte dřív, než přijde první faktura. Zpětnou vazbu lidí berte jako palivo. Sledujte, co s nástrojem lidé reálně dělají. A bezpečnost stavte na omezeném přístupu AI, na architektuře, kde víte, kam smí a nesmí sahat.
Radar mi drží přehled. Vybírá, co ráno uvidím a dělá to podle pravidel, která jsem mu napsala já. Je mým pomocníkem i mým filtrem zároveň. Stále ho zdokonaluju a učím se na něm, co je klíčové nejen pro mě, ale i pro firmy.
Nástroj byl hotový za tři týdny. Pravidla píšu pořád a učím ho být lepším pomocníkem pro mě samotnou.