Sesi & Memori

Sesi

Cara Kerja Sesi

Setiap percakapan dengan agen terjadi dalam sebuah sesi. Sesi diidentifikasi oleh kunci yang menyandikan konteks, agen mana, saluran mana, obrolan mana.

Sesi mempertahankan transkrip lengkap (JSONL hanya-tambah) dari semua pesan, panggilan alat, dan hasil. Transkrip inilah yang memberi agen konteks tentang percakapan yang sedang berlangsung.

Kunci Sesi

Sesi diarahkan secara otomatis berdasarkan konteks:

Pola Arti
agent:main:main Percakapan langsung utama
agent:<id>:<channel>:group:<id> Obrolan grup di saluran tertentu
agent:<id>:<channel>:channel:<id> Percakapan saluran/ruang
cron:<jobId> Eksekusi pekerjaan terjadwal
hook:<uuid> Eksekusi yang dipicu webhook

Siklus Hidup Sesi

Pelacakan Token

Sesi melacak penggunaan token kumulatif (input, output, baca cache, tulis cache) untuk pemantauan biaya dan manajemen jendela konteks.


Kompaksi

Apa Itu Kompaksi?

Ketika percakapan mendekati batas jendela konteks model, Neotask mengompaknya, merangkum pesan lama menjadi ikhtisar yang dipadatkan dan memulai sesi baru dengan ringkasan tersebut ditambah pesan terbaru.

Cara Kerjanya

  1. Deteksi, Pantau penggunaan konteks (pemicu default: 80% dari jendela konteks)
  2. Perangkuman, Pesan lama dirangkum menjadi entri kompaksi
  3. Sesi baru, Sesi segar dimulai dengan ringkasan yang diinjeksikan di bagian atas
  4. Pelestarian, Transkrip lama disimpan untuk riwayat tetapi tidak lagi dimuat ke dalam konteks

Konfigurasi

Kompaksi Manual

Anda dapat memicu kompaksi secara manual kapan saja dengan perintah /compact. Ini berguna ketika Anda ingin mereset konteks tanpa kehilangan informasi penting.


Memori

Memori Agen

Setiap agen memiliki sistem memori untuk mempertahankan informasi penting lintas sesi:

Pencarian Vektor

Neotask mendukung pencarian kesamaan vektor atas memori agen:

  1. Pengindeksan, File memori diindeks menggunakan embedding
  2. Pencarian, Agen melakukan kueri memori dengan bahasa alami ("Apa yang dikatakan pengguna tentang preferensi API mereka?")
  3. Pemanggilan, Memori yang relevan dikembalikan berurutan berdasarkan kesamaan

Plugin Memori (LanceDB)

Plugin memori LanceDB menyediakan penyimpanan vektor lanjutan:

Pemanggilan Otomatis

Saat memulai sesi, memori yang relevan dapat dipanggil secara otomatis dan diinjeksikan ke dalam konteks agen. Ini memberi agen kesinambungan lintas sesi tanpa memuat seluruh riwayat percakapan.


Persistensi Sesi

Semua data sesi disimpan secara lokal:

Pembersihan