Makine Öğrenmesi · Bölüm 1

Doğrusal regresyon ve gradyan inişi

Motorun PWM–hız çizgisini adım adım öğrenmek

Veri. Bir robot tekerleğine 40 kez farklı PWM değeri verdik ve tekerleğin hızını ölçtük. Robotun belli bir hızda gitmesi için hangi PWM'i vermesi gerektiğini bilmek istiyoruz: ölçümlerden geçen en iyi doğruyu arıyoruz.

ölçümler40 ölçüm · öğrenme oranı 0,10

1 / 70

Öğrenme oranı 0.1

regresyon.pypython

import numpy as np
from motor import pwm, speed # 40 ölçüm: PWM, cm/s
x = (pwm - pwm.mean()) / pwm.std() # ölçekle
w, b, lr = 0.0, 0.0, 0.1 # yatay çizgiyle başla
for epoch in range(60):
pred = w * x + b # tahmin
err = pred - speed # hata
loss = (err ** 2).mean() # ortalama kare hata
w -= lr * 2 * (err * x).mean() # eğime karşı adım
b -= lr * 2 * err.mean()
print(w / pwm.std(), b - w * pwm.mean() / pwm.std()) # cm/s başına PWM, kesişim

Sahnedeki her sayı, aynı algoritmanın tarayıcında yapılan gerçek çalıştırmasından gelir (sabit tohum, her seferinde aynı sonuç). Python kodunu kendi bilgisayarında çalıştırırsan rastgele başlangıçlar farklı olacağı için sayılar biraz değişebilir.

Nasıl çalışır

PWM'i ölçekleriz (ortalaması 0, standart sapması 1): adımlar her yönde aynı büyüklükte olur.
Çizgi yatay başlar (w = 0, b = 0). Her dönemde tahmin, hata ve ortalama kare hata (kayıp) hesaplanır.
Kaybın w ve b'ye göre türevi, kaybın hangi yönde arttığını söyler; ters yönde, öğrenme oranı kadar adım atılır.
Öğrenme oranını 1'e yaklaştır: çizgi salınır. 1'i geçince ıraksar ve kayıp patlar.

Neden önemli

Gradyan inişi, bugünkü bütün sinir ağlarını eğiten yöntemin ta kendisidir: milyarlarca ağırlık için de aynı iki satır çalışır. Robotikte sensör ve motor kalibrasyonu, ileri besleme (feedforward) terimi ve basit tahmin modelleri hep bu doğruyla başlar.

ESOF 323, 11. hafta: robotlarda derin öğrenme →