LLM modely stále mají limity v udržení paměti a po čase ztrácí kontext. Je tak nutné spotřebovávat více tokenů kvůli opakovanému zpracování dat v RAG databázích. Naráží se na limity kontextového okna a statických vah. AI dokola čte stejné dokumenty. Při změnách dodavatele LLM se zároveň vytrácí vybudované know-how.
Jablonecký startup BioCortex AI proto podle serveru Lupa.cz vytvořil takzvanou neuromorfní kognitivní paměť (NCM). Jde o paměťovou vrstvu inspirovanou lidskou biologií, která uchovává kontext napříč sezeními a modely. Řešení funguje nezávisle na použitém LLM modelu.
„Na rozdíl od běžných vektorových databází a RAG systémů neukládá technologie NCM přesné textové řetězce. Systém vyhledává informace na základě logických a sémantických asociací. Pokud uživatel řeší opravu kódu nebo pracovní úkol, paměť dodá související historické souvislosti i s dřívějšími chybami a jejich řešením,” shrnuli autoři.
„Architektura NCM odděluje dlouhodobou paměť od samotného výpočetního jádra umělé inteligence. Uživatelé tak mohou změnit základní model z OpenAI GPT-4 například na otevřený model Meta Llama 3.1 bez ztráty kontextu. Otevírá se trh takzvaného Practice-as-a-Product, ve kterém se zapracované know-how a pracovní zkušenost stávají přenositelným digitálním aktivem. Všechna data zůstávají šifrovaná a uložená lokálně, což odpovídá bezpečnostním požadavkům evropského trhu.”
Architektura systému má tři hlavní části (topologie je popsána zde):
- PlantNet, hormonální modulace: Inspirace rostlinným distribuovaným počítáním. Zavádí chemickou vrstvu (analogy dopaminu, serotoninu, kortizolu), která spojitě mění styl pozornosti (attention matrix) LLM před samotnou inferencí na základě predikční chyby.
- Perzistentní 3D paměť: Nahrazuje běžný RAG systémem latentního terénu (48³), kde informace “difundují”. Systém obsahuje krátkodobou (STM) a dlouhodobou (LTM) paměť s mechanismem homeostázy a periodické konsolidace (“spánku”).
- Digitální zrcadlo: Mechanismus fenomenologické reflexe. Model se nedívá “dovnitř” na své váhy, ale analyzuje svůj vygenerovaný výstup z pohledu vnějšího pozorovatele. Slouží k autokalibraci a etické seberegulaci.
NCM od BioCortextu je aktuálně k dispozici jako webové rozšíření, a to ve více záložkách současně a pro operační systém Windows, macOS a Linux. Videonávod je tady. Pro desktopové aplikace, IDE a agenty funguje server MCP, zatím v testovací verzi. K dispozici je také balíček SDK pro Unity pro tvorbu postav s trvalou pamětí.
BioCortex AI je společný podnik výzkumného centra OpenTechLab a společnosti CreaLogic. Startup otevírá investiční kolo pre-seed. Peníze chce použít na registraci duševního vlastnictví a mezinárodní patentové řízení. S tím souvisí i rychlé uvedení na globální trhy.
zdroj: Lupa.cz, BioCortexAI
ČLÁNKY DO MAILU