Зміна одного файлу скорочує час завантаження RAG із 33 фрагментів з 50 с до 1,5 с
Прискорення у 31,8 раза завдяки зміні одного файлу. Я протестував конвеєр завантаження RAG і виявив вузьке місце. Обробка одного документа займала 50 секунд. Завантаження процесора було низьким. Додаток не мав труднощів…