Your AI Writes Code Faster Than You Can Review It
AI כותב קוד מהר יותר מבמה שבני אדם יכולים לקרוא אותו.
צוואר הבקבוק השתנה. בעבר הוא היה כתיבת הקוד. כעת, צוואר הבקבוק הוא האמון בקוד.
רוב הצוותים נכשלים כאן. הם עושים אחד משני דברים:
הם בודקים הכל באותו אופן. תיקון של שורה אחת ממתין באותה תור כמו עדכון תשלומים מסיבי. אתם מאבדים את כל המהירות שה-AI העניק לכם.
הם כמעט לא בודקים דבר. הם סומכים על ה-AI כי הוא נראה בטוח בעצמו. זה מוביל לאבטחה פגומה או לנתונים שגויים. ביטחון אינו שווה נכונות.
Graduated Review Authority (GRA) פותר זאת. הוא משנה את האופן שבו אתם בודקים קוד בהתבסס על שני גורמים: רמת הסיכון והראיות לנכונות.
שינוי פשוט שעובר את כל הבדיקות האוטומטיות לא אמור לעמוד באותה ביקורת כמו שינוי בלוגיקת התשלומים שלכם.
הכלל הוא פשוט:
יצירה אינה סמכות. ה-pipeline הוא הסמכות.
כל אחד יכול לכתוב קוד. סוכן (agent) או אדם. כתיבת קוד אינה אומרת שניתן להפיץ אותו. האישור מגיע מעצם המעבר של הוולידציה. מודל מציע שינוי. הוא אינו מעניק לעצמו אישור להפיץ אותו.
GRA משתמש בשלושה רמות של ראיות:
שערים דטרמיניסטיים (Deterministic gates). אלו הן בדיקות, סריקות אבטחה ובדיקות מדיניות. הן מספקות תשובה קבועה. כישלון כאן עוצר הכל.
סקירת סוכן (Agent review). זה שימושי אך לא מושלם. זה נחשב רק אם הסוקר נפרד מהכותב.
סקירה אנושית. בני אדם מטפלים במה שמכונות אינן יכולות. בני אדם מחליטים על סיכון, כוונה וארכיטקטורה.
משימות מסוימות תמיד דורשות אדם. אלו כוללות אימות (authentication), העברת כספים ונתונים מפוקחים.
המערכת לומדת. סוג של שינוי עם רקורד נקי מקבל פחות ביקורת. שינוי שגורם לבאגים מקבל יותר פיקוח. המערכת יכולה להחמיר את הביקורת, אך היא לעולם לא תרפה אותה מתחת לרף בטיחותי.
אספקה מבוססת AI (AI-native delivery) אינה עוסקת במתן אפשרות לסוכנים להפיץ קוד. היא עוסקת בהשקעת תשומת הלב האנושית במקום שבו היא הכי חשובה.
Source: https://dev.to/joshuamil/your-ai-writes-code-faster-than-you-can-review-it-now-what-bi6
Optional learning community: https://t.me/GyaanSetuAi