Uczenie się w wysokich wymiarach zawsze sprowadza się do ekstrapolacji
Dane wysokowymiarowe zmieniają sposób, w jaki uczą się maszyny.
Większość modeli dobrze radzi sobie z danymi treningowymi. Zawodzą jednak, gdy napotykają nowe wzorce. Dzieje się tak z powodu wysokiej wymiarowości.
W wysokich wymiarach punkty danych znajdują się daleko od siebie. Między punktami danych istnieją puste przestrzenie. Model musi zgadywać, co dzieje się w tych pustych przestrzeniach.
To zgadywanie to ekstrapolacja.
Gdy model dokonuje ekstrapolacji, stawia założenia. Jeśli te założenia są błędne, model zawodzi.
Kluczowe punkty do zapamiętania:
- Wysokie wymiary tworzą ogromne puste przestrzenie.
- Modele muszą wypełniać te luki, aby dokonywać prognoz.
- Prognozy w tych lukach opierają się na ekstrapolacji.
- Ekstrapolacja zwiększa ryzyko błędów.
Zrozumienie tego pomaga budować lepsze modele. Musisz wiedzieć, kiedy Twój model jedynie zgaduje.
Źródło: https://dev.to/paperium/learning-in-high-dimension-always-amounts-to-extrapolation-1nk
Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi