Parçalama: ne kadar büyük?

Modele sorduğun şey belgede yoksa model tahmin yürütebilir. Belgeyi modele vermek çözüm; ama 200 sayfalık bir belgeyi hepsini birden vermek pahalı ve pencereye sığmayabilir. Çözüm: belgeyi parçala, soruya uyan parçaları getir. Buna RAG denir (retrieval-augmented generation, getirmeyle desteklenmiş üretim).