Yapay zeka chatbot yapmanın 2026’daki pratik yolu model eğitmek değil, hazır bir büyük dil modelini (LLM) kendi içeriğinize bağlamaktır. Akış üç parçadan oluşur: bilgi kaynağınızı (SSS, ürün dokümanları, prosedürler) parçalara bölüp bir vektör veritabanına yazmak; kullanıcının sorusuna en yakın parçaları bulup modele “kaynak” olarak vermek — buna RAG (retrieval-augmented generation) denir; modelin ürettiği cevabı arayüze akıtmak. Kendi dokümanlarınızdan cevap veren bir destek botu tipik olarak 2-4 haftada, sipariş sorgulama veya randevu oluşturma gibi işlem yapabilen bir bot 6-12 haftada canlıya çıkar. Aşağıda mimariyi, çalışan bir kod örneğini, gerçek maliyet hesabını ve en sık yapılan hataları bulacaksınız.
Önce karar: hangi tür chatbot?
Geliştirme süresini ve maliyeti belirleyen şey model değil, botun ne yapmasını istediğinizdir. Dört tip vardır ve karmaşıklık her adımda katlanır:
- Kural tabanlı (akış) bot: Önceden tanımlı butonlar ve menülerle ilerler. Yapay zeka yoktur, ucuzdur, öngörülebilir; ama kullanıcı senaryo dışına çıktığı anda tıkanır.
- Bilgi tabanlı (RAG) bot: Sizin dokümanlarınızdan cevap üretir. Kurumsal destek, ürün soruları ve iç bilgi tabanı için en yaygın ve en iyi maliyet/fayda oranına sahip seçenek.
- İşlem yapan bot (tool/function calling): Sipariş sorgular, randevu açar, kayıt günceller. Model artık sizin API’lerinizi çağırır; kimlik doğrulama, yetkilendirme ve geri alma senaryoları devreye girer.
- Otonom ajan: Birden çok adımı kendi planlayıp yürütür. Güçlüdür ama denetim, log ve maliyet kontrolü ister — bu modeli yapay zeka ajanları yazımızda ayrıntılı ele aldık.
Şirketlerin büyük çoğunluğu ikinci tiple başlamalı: kendi içeriğinizden doğru cevap veren bir bot, üçüncü tipe geçmek için gereken altyapının da tamamını kurar.
Mimari: bir yapay zeka chatbotu neyden oluşur?
Kurulacak parçalar sağlayıcıdan bağımsız olarak hep aynıdır:
- Arayüz: Web sitesindeki widget, mobil uygulama ekranı veya WhatsApp/Slack entegrasyonu. Yanıtların token token akması (streaming) algılanan hızı belirgin biçimde artırır.
- Orkestrasyon katmanı: Sizin sunucunuzdaki kod. Soruyu alır, kaynakları toplar, modeli çağırır, sonucu döner. API anahtarı yalnızca burada durur — asla tarayıcıya gömülmez.
- Vektör veritabanı: Dokümanlarınızın embedding’lerini (sayısal temsillerini) tutar. pgvector, Qdrant, Pinecone gibi seçenekler var; PostgreSQL zaten kullanıyorsanız pgvector çoğu proje için fazlasıyla yeterlidir.
- LLM API: Cevabı üreten model. Sağlayıcı değiştirilebilir olsun diye tek bir servis dosyasının arkasına saklayın.
- Kayıt ve analitik: Her soru, verilen kaynaklar ve cevap loglanmalı. Botu iyileştirmenin tek yolu “cevaplanamayan sorular” listesini okumaktır.
- İnsana devir: Bot tıkandığında konuşmayı geçmişiyle birlikte canlı desteğe aktaran akış. Bunu atlayan projeler kullanıcı güvenini ilk haftada kaybeder.
Kod örneği: kendi içeriğinizden cevap veren uç nokta
Aşağıda bir Next.js API route’unda RAG akışının çekirdeği var. Kritik nokta, modele “serbest bilgi” değil, aramadan dönen kaynakların verilmesi ve kaynakta olmayan şeyi uydurmamasının açıkça söylenmesidir:
import Anthropic from '@anthropic-ai/sdk';
const client = new Anthropic(); // anahtar ANTHROPIC_API_KEY ortam değişkeninden okunur
const SYSTEM = `Sen bir kurumsal destek asistanısın.
Yalnızca KAYNAK bölümündeki bilgilere dayanarak cevap ver.
Kaynakta cevap yoksa uydurma; "Bu konuda kaydım yok, sizi yetkiliye aktarayım" de.
Cevabı kısa tut ve kullanıcının yazdığı dilde yanıtla.`;
export async function POST(req: Request) {
const { question, history } = await req.json();
// 1) Soruya en yakın doküman parçalarını vektör veritabanından getir (RAG)
const chunks = await searchKnowledgeBase(question, { topK: 5 });
const context = chunks
.map((c, i) => `[${i + 1}] ${c.title}\n${c.text}`)
.join('\n\n');
// 2) Modeli kaynaklarla birlikte çağır
const response = await client.messages.create({
model: 'claude-opus-5',
max_tokens: 1024,
system: [
{ type: 'text', text: SYSTEM },
// Uzun ve sabit metinler önbelleğe alınır: tekrarlayan isteklerde girdi
// maliyeti yaklaşık onda birine iner.
{ type: 'text', text: `KAYNAK:\n${context}` },
],
output_config: { effort: 'low' }, // sohbet yanıtı: düşük gecikme
messages: [...history, { role: 'user', content: question }],
});
// 3) Metin bloklarını birleştirip döndür (içerik bir birleşim tipidir)
const answer = response.content
.filter((b): b is Anthropic.TextBlock => b.type === 'text')
.map((b) => b.text)
.join('');
return Response.json({ answer, sources: chunks.map((c) => c.title) });
}Bu iskelet üzerine eklenecek üç şey var: yanıtı akıtmak için streaming, konuşma geçmişini sınırlamak için bir pencere (eski mesajlar sonsuza kadar taşınmamalı) ve kullanıcı başına hız sınırı. Botun kendi sistemlerinizle konuşmasını da istiyorsanız — sipariş durumu, stok, randevu — bir sonraki adım function calling’dir; genel mantığı API entegrasyonu nedir yazımızda anlattık.
Chatbot projelerinin çöktüğü tek nokta neredeyse her zaman aynıdır: modelin kaynakta olmayan bir şeyi kendinden emin bir tonla uydurması. İki önlem bunun büyük kısmını çözer — sistem talimatında “kaynak yoksa cevaplama” kuralını net yazmak ve her cevabın altında kullandığı dokümanı göstermek. Kaynak gösteren bir bot, yanlış cevap verdiğinde bile kullanıcı tarafından fark edilir.
Maliyet: token nasıl faturalanır?
LLM sağlayıcıları giriş (input) ve çıkış (output) token’ını ayrı fiyatlar; sağlayıcı değişse de mantık aynıdır. Somut bir hesap: destek botunda tipik bir mesaj, kaynaklarla birlikte ~2.000 giriş ve ~300 çıkış token’ı tüketir. Milyon token başına 5 $ giriş / 25 $ çıkış fiyatlamasıyla bu mesaj başına yaklaşık 0,018 $ demektir — ayda 10.000 mesaj ≈ 175 $. Daha küçük ve hızlı bir modelle (ör. milyon token başına 1 $ / 5 $) aynı hacim ≈ 35 $’a iner. Buna ek kalemler: vektör veritabanı barındırma (küçük hacimde mevcut PostgreSQL’inizde ~0 TL), embedding üretimi (tek seferlik, çok ucuz) ve sunucu.
- Prompt cache kullanın: sabit sistem talimatı ve sık kullanılan prosedür metinleri önbelleğe alınınca girdi maliyeti dramatik düşer.
- Model seçimini soru tipine göre yapın: sınıflandırma ve yönlendirme için küçük model, karmaşık cevap için büyük model — tek modelle her şeyi yapmak en pahalı yoldur.
- Konuşma geçmişini sınırlayın: her mesajda tüm geçmişi göndermek maliyeti doğrusal olarak büyütür.
- Kullanıcı başına günlük mesaj limiti koyun; kötüye kullanım ilk aydan fatura sürprizi yaratır.
- Asıl büyük kalem API değil geliştirmedir: RAG hattı, arayüz, insana devir ve yönetim paneli tek seferlik proje bedelidir.
En sık yapılan beş hata
- Dokümanları temizlemeden yüklemek: PDF’ten kopyalanmış bozuk metin, güncelliğini yitirmiş fiyat listesi ve tekrar eden sürümler botun cevabını doğrudan bozar. Kalite, kaynağın kalitesidir.
- Parçalama (chunking) stratejisini rastgele seçmek: Çok küçük parçalar bağlamı, çok büyük parçalar isabeti kaybettirir. Başlık bazlı bölme ve parçalar arası küçük örtüşme çoğu doküman için doğru başlangıçtır.
- İnsana devir akışını yazmamak: Cevabı olmayan soruda kullanıcıyı çıkmaza sokan bot, telefonla arayan müşteriden daha maliyetlidir.
- Log tutmamak: Hangi soruların cevapsız kaldığını bilmeden botu iyileştiremezsiniz. Bu liste aynı zamanda en iyi içerik/SSS yol haritanızdır.
- KVKK’yı sonraya bırakmak: Konuşmalarda kişisel veri geçiyorsa saklama süresi, aydınlatma metni ve verinin hangi ülkede işlendiği baştan netleşmeli.
Ne kadar sürer, nasıl başlanır?
Gerçekçi takvim şöyle işler: kaynak toplama ve temizlik 3-5 gün, RAG hattının kurulması ve ilk testler 1 hafta, arayüz ve insana devir 1 hafta, canlı öncesi soru setiyle doğrulama 3-5 gün. Toplam 2-4 hafta. İşlem yapan bir bota geçtiğinizde API entegrasyonları, yetkilendirme ve iade/iptal senaryoları eklenir; süre 6-12 haftaya çıkar. Başlangıç için doğru kapsam, en çok tekrarlanan 30-50 soruyu kapsayan dar bir bottur; hacmi genişletmek kolaydır, güveni geri kazanmak zordur.
Sonuç
Yapay zeka chatbot geliştirmenin zor kısmı model değil, veri ve akıştır: doğru parçalanmış içerik, kaynağa bağlı cevap üretimi, ölçülen loglar ve insana devir. Bu dördü doğruysa küçük bir model bile şaşırtıcı derecede iyi çalışır; bunlar yoksa en güçlü model bile güven kaybettirir. Maliyet tarafını ve hazır platform ile özel geliştirme karşılaştırmasını yapay zeka chatbot yaptırma maliyeti yazımızda ele aldık. Kendi içeriğinizden cevap veren bir bot kurmamızı istiyorsanız özel yazılım hizmetimize göz atabilir, kurum genelinde bir yapı planlıyorsanız kurumsal çözümler sayfamızı inceleyebilir ya da doküman hacminizi iletip ücretsiz teklif alabilirsiniz.