Sessies en geheugen

Sessies

Hoe sessies werken

Elk gesprek met een agent vindt plaats in een sessie. Sessies worden geïdentificeerd door sleutels die de context coderen, welke agent, welk kanaal, welke chat.

Sessies onderhouden een volledig transcript (alleen-toevoegen JSONL) van alle berichten, toolaanroepen en resultaten. Dit transcript is wat agents context geeft over het lopende gesprek.

Sessiesleutels

Sessies worden automatisch gerouteerd op basis van context:

Patroon Betekenis
agent:main:main Hoofdgesprek direct
agent:<id>:<kanaal>:group:<id> Groepschat op een specifiek kanaal
agent:<id>:<kanaal>:channel:<id> Kanaal-/kamersgesprek
cron:<jobId> Geplande taakuitvoering
hook:<uuid> Webhook-geactiveerde uitvoering

Sessielevenscyclus

Tokenbijhouding

Sessies bijhouden cumulatief tokengebruik (invoer, uitvoer, cache-lezen, cache-schrijven) voor kostenmonitoring en contextvenster-beheer.


Compactie

Wat is compactie?

Wanneer een gesprek de contextvensterlimieten van het model nadert, compacteert Neotask het, oudere berichten samenvatten in een gecondenseerd overzicht en een nieuwe sessie starten met die samenvatting plus recente berichten.

Hoe het werkt

  1. Detectie, Contextgebruik monitoren (standaard trigger: 80% van het contextvenster)
  2. Samenvatting, Oudere berichten worden samengevat in een compactie-invoer
  3. Nieuwe sessie, Een nieuwe sessie start met de samenvatting bovenin ingespoten
  4. Bewaring, Oude transcripten worden bewaard voor geschiedenis maar niet meer in context geladen

Configuratie

Handmatige compactie

U kunt compactie op elk moment handmatig activeren met de /compact-opdracht. Dit is handig wanneer u context wilt resetten zonder belangrijke informatie te verliezen.


Geheugen

Agentgeheugen

Elke agent heeft een geheugensysteem voor het bewaren van belangrijke informatie over sessies heen:

Vectorzoeken

Neotask ondersteunt vectorgelijkenis-zoeken over agentgeheugen:

  1. Indexeren, Geheugenbestanden worden geïndexeerd met behulp van embeddings
  2. Zoeken, Agents bevragen geheugen met natuurlijke taal ("Wat zei de gebruiker over hun API-voorkeuren?")
  3. Herinnering, Relevante herinneringen worden geretourneerd gerangschikt op gelijkenis

Geheugen-plugin (LanceDB)

De LanceDB-geheugenplugin biedt geavanceerde vectoropslag:

Automatische herinnering

Aan het begin van een sessie kunnen relevante herinneringen automatisch worden teruggeroepen en ingespoten in de context van de agent. Dit geeft agents continuïteit over sessies zonder volledige gespreksgeschiedenissen te laden.


Sessiepersistentie

Alle sessiegegevens worden lokaal opgeslagen:

Opschoning