נתב ה-Switchyard של Nemotron 3.5 Lightning עלול להכפיל את עלויות ההסקה
Nemotron 3.5 Lightning החדש של Nvidia מריץ מודל MoE של 30B עם 3B פרמטרים פעילים בלבד, אך שכבת הניתוב NeMo Switchyard שלו עלולה להשליך פרומפטים שמורים במטמון בעת החלפת מודלים, מה שמכפיל בפועל את העלות של בקשת הסקה בודדת.