OpenAI פיתחה את GPT-Live, צ'אטבוט מבוסס קול (voice-first) המקשיב ומדבר בו-זמנית, תוך ביטול ההפסקות המסורבלות של "דבר ואז הקשב" שרוב העוזרים משתמשים בהן. השירות שואף לשיחה שזורמת כמו דיאלוג אנושי במקום חילופי דברים מקוטעים.
למה המודל הישן הרגיש שבור
עוזרי קול טיפוסיים עובדים כמו ווקי-טוקי: אתם מסיימים משפט, המכשיר מקליט, שולח את האודיו לענן, ממתין לתגובה, ואז משמיע אותה. מסע הלוך-חזור הזה מוסיף השהיה (lag) ניכרת ומאלץ את המשתמשים להמתין לפני שניתן יהיה להתפרץ לדבריהם. עבור דור שגדל על הודעות מיידיות, העיכוב מרגיש ארכאי.
OpenAI ענתה על כך באמצעות ארכיטקטורה ללא תורות (turn-less). בכל שנייה, GPT-Live מחליט אם להמשיך להקשיב, להמשיך לדבר או להשהות, מה שמאפשר לכם לקטוע את העוזר באמצע התגובה או לשאול שאלת המשך מבלי לחכות למחזור תגובה מלא.
ה-stack ה-full-duplex במילים פשוטות
- לולאת אודיו ומסלול חשיבה נפרדים – fast path מטפל בחילופי אודיו רציפים, בעוד ש-slow path מריץ משימות כבדות יותר כמו חיפושים באינטרנט או קריאות לכלים (tool calls). ה-fast path שומר על חיות השיחה בזמן שה-slow path עובד, ובכך מבטל את רגע ה"שקט בזמן שאני חושב" המצער.
- פרוטוקול WARP – חי