Навчання у високих розмірностях завжди зводиться до екстраполяції
Високорозмірні дані змінюють те, як навчаються машини.
Більшість моделей добре працюють на тренувальних даних. Вони зазнають невдачі, коли стикаються з новими закономірностями. Це стається через високу розмірність.
У високих розмірностях точки даних розташовані далеко одна від одної. Між вашими точками даних існують порожні простори. Модель має вгадувати, що відбувається в цих порожніх просторах.
Це вгадування і є екстраполяцією.
Коли модель екстраполює, вона робить припущення. Якщо ці припущення хибні, модель зазнає невдачі.
Ключові моменти, які варто пам'ятати:
- Високі розмірності створюють величезні порожні простори.
- Моделі мають заповнювати ці прогалини, щоб робити прогнози.
- Прогнози в цих прогалинах покладаються на екстраполяцію.
- Екстраполяція підвищує ризик помилок.
Розуміння цього допоможе вам будувати кращі моделі. Ви повинні знати, коли ваша модель лише вгадує.
Джерело: https://dev.to/paperium/learning-in-high-dimension-always-amounts-to-extrapolation-1nk
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi