İçeriğe geç
Dolphy

Maliyet etiketli yazılar

Bu etiketi taşıyan tüm yazılar.

2 yazı

Uzun ve kısa kâğıt yığınları arasında kâğıt şeridini kesen makas; üstte “Sistem promptunu %52 kısaltmak kaliteyi artırır mı?” başlığı
Test ve Ölçüm7 dk okuma

Sistem Promptunu %52 Kısaltmak Kaliteyi Artırır mı? Prompt ve Önbellek Ölçümleri

Güncel rehberler sade sistem promptlarının hem daha iyi hem daha ucuz olduğunu söylüyor. Müşteri asistanımızın promptunu dört biçimde yazdık: mevcut, standart iskelet, İngilizce iskelet ve yalnız değişmez kuralları içeren yalın sürüm. Yalın sürüm %52 kısaydı ama iki vakada kaynakta olmayan ifade üretti; diğer sürümler kaliteyi ölçülebilir biçimde değiştirmedi. Mevcut prompt kaldı. Aynı incelemede asıl kazancın başka yerde olduğu çıktı: prompt önbelleği 153 turun 135'inde hiç çalışmıyordu; promptu iki mesaja bölüp açık bir önbellek noktası koyunca sabit kısım her turda okunur hâle geldi.

Yazıyı oku
Dağınık kâğıt yığını, belge tarayıcı ve düzenli kart destesi; üstte “Site içeriği bilgi tabanına yapay zekâyla mı girmeli, ham mı?” başlığı
Test ve Ölçüm7 dk okuma

Site İçeriği Bilgi Tabanına Yapay Zekâyla mı Girmeli, Ham mı? Sadakat Kapısı ve Maliyet

Tarayıp çektiğimiz sayfayı chatbot'a olduğu gibi mi vermeli, yoksa bir dil modeline temizletip mi? İki uç da yanlış çıktı. Ham metin, ürün özelliklerinin tek bir hücreye sıkıştığı sayfalarda ve menüsü ayıklanamayan tek sayfalık kaynaklarda kötü; her sayfayı yeniden yazmak ise pahalı ve risksiz değil. Yeniden yazımı bir sadakat kapısından geçiriyoruz: sayılar, olumsuzluklar ve tablo satırları kaybolursa ham metin kalıyor. Kapının üç yanlış alarmını düzeltince uygulanan yeniden yazım 4 sayfada 1'den 4'e çıktı, maliyet %59 düştü. Sayfa başı maliyet tahminimiz ise ilk ölçümde 3 kat düşük çıktı.

Yazıyı oku
Tüm yazılara dön