Sesje i pamięć

Sesje

Jak działają sesje

Każda rozmowa z agentem odbywa się w sesji. Sesje są identyfikowane przez klucze kodujące kontekst -- który agent, który kanał, który czat.

Sesje utrzymują kompletny transkrypt (tylko do dołączania JSONL) wszystkich wiadomości, wywołań narzędzi i wyników. Ten transkrypt jest tym, co daje agentom kontekst o trwającej rozmowie.

Klucze sesji

Sesje są kierowane automatycznie na podstawie kontekstu:

Wzorzec Znaczenie
agent:main:main Główna bezpośrednia rozmowa
agent:<id>:<kanał>:group:<id> Czat grupowy na konkretnym kanale
agent:<id>:<kanał>:channel:<id> Rozmowa na kanale/pokoju
cron:<jobId> Wykonanie zaplanowanego zadania
hook:<uuid> Wykonanie wyzwolone przez webhook

Cykl życia sesji

Śledzenie tokenów

Sesje śledzą skumulowane użycie tokenów (wejściowe, wyjściowe, odczyt cache, zapis cache) do monitorowania kosztów i zarządzania oknem kontekstu.


Kompakcja

Czym jest kompakcja?

Gdy rozmowa zbliża się do limitu okna kontekstu modelu, Neotask kompaktuje ją -- podsumowuje starsze wiadomości w skondensowany przegląd i rozpoczyna nową sesję z tym podsumowaniem plus najnowszymi wiadomościami.

Jak to działa

  1. Wykrywanie -- Monitoruj użycie kontekstu (domyślny wyzwalacz: 80% okna kontekstu)
  2. Podsumowanie -- Starsze wiadomości są podsumowywane we wpis kompakcji
  3. Nowa sesja -- Nowa sesja zaczyna się z wstrzykniętym podsumowaniem na górze
  4. Zachowanie -- Stare transkrypty są zachowywane do historii, ale nie są już ładowane do kontekstu

Konfiguracja

Ręczna kompakcja

Możesz wyzwolić kompakcję ręcznie w dowolnym momencie poleceniem /compact. Jest to przydatne, gdy chcesz zresetować kontekst bez utraty ważnych informacji.


Pamięć

Pamięć agenta

Każdy agent ma system pamięci do utrwalania ważnych informacji między sesjami:

Wyszukiwanie wektorowe

Neotask obsługuje wyszukiwanie podobieństwa wektorowego po pamięci agenta:

  1. Indeksowanie -- Pliki pamięci są indeksowane przy użyciu osadzeń
  2. Wyszukiwanie -- Agenci zapytują pamięć w języku naturalnym („Co użytkownik powiedział o swoich preferencjach API?")
  3. Przypominanie -- Odpowiednie wspomnienia są zwracane uszeregowane według podobieństwa

Wtyczka pamięci (LanceDB)

Wtyczka pamięci LanceDB zapewnia zaawansowane przechowywanie wektorów:

Automatyczne przypominanie

Na początku sesji odpowiednie wspomnienia mogą być automatycznie przypomniane i wstrzyknięte do kontekstu agenta. Daje to agentom ciągłość między sesjami bez ładowania całych historii rozmów.


Trwałość sesji

Wszystkie dane sesji są przechowywane lokalnie:

Czyszczenie