המפץ הגדול של הלמידה העמוקה

לכל תחום יש נקודת מפנה. עבור למידה עמוקה, השנה הזו היא 2012.

לפני 2012, ראייה ממוחשבת התקשתה. חוקרים השתמשו במאגר נתונים בשם ImageNet כדי לבחון מערכות. המטרה הייתה למיין תמונות ל-1,000 קטגוריות שונות.

במשך שנים, שיעורי השגיאות נותרו סביב 25%. ההתקדמות נעצרה. איש לא ידע איך להתקדם.

ואז, צוות בהובלת אלכס קריזבסקי (Alex Krizhevsky) שינה את כללי המשחק. הם השתמשו ברשת עצבית קונבולוציונית (CNN).

במקום שבני אדם יכתבו כללים לאופן שבו תמונה נראית, הרשת למדה ישירות מהפיקסלים.

התוצאות היו אדירות. הם צמצמו את שיעור השגיאות בכמעט מחצית בתוך שנה אחת.

השינוי הזה שינה הכל. הוא העביר את הבינה המלאכותית (AI) ממעבדות מחקר אל העולם האמיתי.

ההשפעה התפשטה במהירות:

  • Netflix השתמשה בזה כדי לספק המלצות טובות יותר.
  • Siemens ו-GE השתמשו בזה עבור דימות רפואי.
  • יצרניות רכב השתמשו בזה עבור נהיגה אוטונומית.
  • ענקיות טכנולוגיה כמו Google ו-Apple הטמיעו זאת בכל מוצר.

ההצלחה הזו נשענה על חומרה. אימון הרשתות הללו דורש מתמטיקה מסיבית. מעבדים גרפיים (GPUs), שיוצרו במקור למשחקי וידאו, התבררו כמושלמים למתמטיקה הזו. זה הוביל לעלייתה של NVIDIA.

אבל זכרו, מגמות שוק הן מורכבות. הצמיחה של NVIDIA הייתה קשורה גם לפריחת כריית הקריפטו. לעולם אל תניחו שיש סיבה אחת ויחידה לשינוי בשוק.

למידה עמוקה כבשה גם משחקים.

שחמט נפתר באמצעות כוח גס (brute force). משחק ה-Go שונה. מספר המהלכים האפשריים ב-Go גדול מדי מכדי שכל מחשב יוכל לספור. ב-2016, AlphaGo הוכיח שלמידה עמוקה יכולה ללמוד אסטרטגיה ללא עזרה אנושית. הוא למד על ידי משחק נגד עצמו.

השיעור הוא פשוט.

השיטות הישנות נכשלו כי בני אדם היו צריכים לתכנת את הכללים באופן ידני. הגענו לתקרה. למידה עמוקה פרצה את התקרה הזו כי המערכות לומדות כעת דפוסים משלהן מנתונים גולמיים.

בסדרה הזו, אפרק את סיכומי הקורס שלי בלמידה עמוקה. אנחנו נבחן כיצד הרשתות הללו באמת עובדות.

בהמשך, אסביר מה קורה בתוך רשת כשהיא לומדת.

Source: https://dev.to/fahimu10/the-big-bang-of-deep-learning-how-2012-changed-everything-3lb3

Optional learning community: https://t.me/GyaanSetuAi