Token nedir? Faturanı ve cevap kalitesini nasıl etkiler?
Kelime değil, parça. Türkçenin neden daha çok token harcadığını örnekle anlatıyoruz.
Yapay zekâ araçlarının fiyat sayfalarında ya da hata mesajlarında sık sık "token" kelimesini görürsün. Kısaca: token, dil modelinin metni okurken böldüğü küçük parçalardır.
Kelimeyle aynı şey değil
Bir token bazen bir kelime, bazen bir hece, bazen sadece birkaç harftir. Örneğin "kitap" tek parça olabilirken "kitaplarımızdan" birkaç parçaya bölünebilir: kök ve ekler ayrı ayrı.
Pi'nin notu: İngilizcede kabaca 1 token ≈ 4 karakter denir. Türkçede bu oran genelde daha düşüktür; yani aynı anlam için daha çok token harcanır.
Neden önemli?
- Fiyat: API kullanan servisler genellikle milyon token başına ücret alır. Hem senin yazdığın hem modelin ürettiği metin sayılır.
- Uzunluk sınırı: Her modelin bir bağlam penceresi vardır; bu da token cinsinden ölçülür. Çok uzun bir belge sığmayabilir.
- Hız: Model cevabı token token üretir. Daha uzun cevap, daha uzun bekleme demektir.
Pratikte ne yapmalı?
- Gereksiz uzun promptlardan kaçın; net ve kısa yaz.
- Uzun belgeleri parçalara bölerek çalış.
- Cevap uzunluğunu sınırla: "En fazla 150 kelime" gibi.
Sıradaki adım: Ajan nedir, sohbet botundan farkı ne?
Bir hata mı gördün? Bize yaz, düzeltelim. Nasıl çalıştığımızı yayın ilkelerimizde anlattık.