Regresja liniowa: ćwiczenie polegające na schodkowym zmniejszaniu gradientu
Zadbaj o dobrą organizację dzięki kolekcji
Zapisuj i kategoryzuj treści zgodnie ze swoimi preferencjami.
W tym ćwiczeniu ponownie otworzysz wykres danych o ekonomiczności spalania z ćwiczenia dotyczącego parametrów. Tym razem użyjesz metody gradientu prostego, aby znaleźć optymalne wartości wag i uprzedzeń dla modelu liniowego, który minimalizuje stratę.
Wykonaj 3 zadania pod wykresem.
Zadanie 1: przesuń suwak Szybkość uczenia się pod wykresem, aby ustawić szybkość uczenia się na 0,03. Aby wykonać sprowadzanie gradientowe, kliknij przycisk Start (Rozpocznij).
Ile czasu trwa zbliżanie się modelu do punktu zbieżności (osiągnięcie stabilnej minimalnej wartości funkcji utraty)? Jaka jest wartość MSE w przypadku konwergencji modelu? Jakie wartości wagi i uśrednienia dają tę wartość?
Kliknij ikonę plusa, aby zobaczyć nasze rozwiązanie.
Gdy ustawiliśmy szybkość uczenia się na 0,03, model osiągnął zbieżność po około 30 sekundach, uzyskując MSE wynoszący nieco poniżej 3, a wartości wagi i uprzedzeń odpowiednio –2,08 i 23,098. Oznacza to, że wybraliśmy dobrą wartość tempa uczenia się.
Zadanie 2: kliknij przycisk Reset pod wykresem, aby zresetować wartości wagi i uśrednienia na wykresie. Dostosuj suwak Szybkość uczenia się do wartości około 1,10e–5. Aby wykonać sprowadzanie gradientowe, kliknij przycisk Start (Rozpocznij).
Jak długo tym razem trwa konwergencja trenowania modelu?
Kliknij ikonę plusa, aby wyświetlić rozwiązanie
Po kilku minutach trenowanie modelu nadal nie osiągnęło konwergencji. Niewielkie zmiany wartości wagi i uprzedzeń nadal powodują nieznaczne obniżenie wartości utraty. Sugeruje to, że wybór wyższego współczynnika uczenia się pozwoliłby algorytmowi gradientu prostego szybciej znaleźć optymalne wartości wag i uprzedzeń.
Zadanie 3: kliknij przycisk Reset pod wykresem, aby zresetować wartości wagi i bicia. Przesuń suwak Szybkość uczenia się do wartości 1.
Aby wykonać sprowadzanie gradientowe, kliknij przycisk Start (Rozpocznij).
Co się dzieje z wartościami utraty podczas uruchamiania gradientu prostego? Jak długo potrwa zbliżanie modelu do tego czasu?
Kliknij ikonę plusa, aby wyświetlić rozwiązanie
Wartości strat zmieniają się gwałtownie przy wysokich wartościach (MSE powyżej 300).
Sugeruje to, że tempo uczenia się jest zbyt wysokie i trenowanie modelu nigdy nie osiągnie konwergencji.
[[["Łatwo zrozumieć","easyToUnderstand","thumb-up"],["Rozwiązało to mój problem","solvedMyProblem","thumb-up"],["Inne","otherUp","thumb-up"]],[["Brak potrzebnych mi informacji","missingTheInformationINeed","thumb-down"],["Zbyt skomplikowane / zbyt wiele czynności do wykonania","tooComplicatedTooManySteps","thumb-down"],["Nieaktualne treści","outOfDate","thumb-down"],["Problem z tłumaczeniem","translationIssue","thumb-down"],["Problem z przykładami/kodem","samplesCodeIssue","thumb-down"],["Inne","otherDown","thumb-down"]],["Ostatnia aktualizacja: 2025-03-11 UTC."],[],[]]
