Switchyard Router ของ Nemotron 3.5 Lightning อาจทำให้ต้นทุนการประมวลผล (Inference) เพิ่มขึ้นเป็นสองเท่า
Nemotron 3.5 Lightning รุ่นใหม่จาก Nvidia รันโมเดล MoE ขนาด 30B โดยใช้พารามิเตอร์ที่ทำงานจริงเพียง 3B แต่เลเยอร์การกำหนดเส้นทาง NeMo Switchyard อาจลบพรอมต์ที่แคชไว้เมื่อมีการสลับโมเดล ซึ่งส่งผลให้ต้นทุนการประมวลผลต่อหนึ่งคำขอเพิ่มขึ้นเป็นสองเท่า