Osistan
Gerçekten production'da çalışan AI operasyon asistanı.
Sorun
Operasyon ekipleri tekrarlayan sorgular, e-posta triyajı, son tarih takibi ve insanların kafasında yaşayan bilgi yüzünden boğuluyor. Ticari AI araçları ya çok pahalı ya da senin özel iş bağlamını anlamıyor.
Yaklaşım
3 katmanlı mimari — deterministik motor, cron job'ları, e-posta parsing ve son tarih hesaplamalarını LLM dahiliyeti olmadan ve hallucination olmadan yönetiyor. Context assembler, pozisyon bilinçli yerleştirmeyle optimal token pencereleri oluşturuyor. Zeka katmanı yalnızca düşünüyor — veri çekmiyor, dosya parse etmiyor.
50 tool ile başladım. LLM, zekasını tool seçimine harcıyordu, düşünmek yerine. 3 write channel'a indirgedim: db_write, slack_send, file_create. Her şey değişti.
Önemli Detaylar
- Raspberry Pi 5 üzerinde çalışıyor (8GB RAM) — 7/24 production
- 39K e-posta chunk'ı pgvector ile embed edildi (3.4ms arama)
- Görev yönetimi için event sourcing
- Karpathy wiki pattern'i — bilgi bir kez derleniyor, güncel tutuluyor
- Öz-gözlem — zamanla kendi eylem sonuçlarını takip ediyor
- Progressive soul file — 27K token → 3.9K core + isteğe bağlı bölümler
- Maliyet: 8 kişilik ekibe aylık ~$40
Zorluklar
Token bütçe yönetimi. Soul file tam haliyle 27K token'dı — her istek için çok pahalı. Çözüm: progressive disclosure. 3.9K'lık bir core kişilik her zaman yükleniyor. Alan-spesifik bölümler (sözleşmeler, eskalasyon, raporlama) konuşma konusuna göre isteğe bağlı yükleniyor.
E-posta gürültüsü. 5 kategoride 472 e-posta göndereni. Filtreleme olmadan model, otobüs şirketi rota e-postalarını partner iletişimleriyle karıştırıyordu. Çözüm: firma spesifik filtrelemeyle gönderen etiketleme. Biri belirli bir şirketi sorduğunda yalnızca o şirketin e-postaları yüzeye çıkıyor.
Feedback döngüsü olmadan öz-gözlem. Ajan, görevlerinin 24 saat içinde iptal edilip edilmediğini (kötü sinyal) ya da 48 saat boyunca görmezden gelinip gelinmediğini (gürültü sinyali) takip ediyor. Bu veri, soul file'ı iyileştiren aylık incelemelere giriyor — ama ajan kendi talimatlarını hiçbir zaman otomatik olarak değiştirmiyor. Önce bir insan kalıpları inceliyor.
Stack
Claude Opus 4.6 + Sonnet 4.6 · Python · PostgreSQL · pgvector · Slack Bolt · Raspberry Pi · Tailscale · PM2