İki hata yüzeyi karşılaştırması: yerel minimumlu dalgalı yüzey ile dışbükey ama düz tabanlı yüzey; kaydırıcı ile başlangıç noktası değiştirildiğinde optimizasyonun nerede durduğunu ve gradyan normunu gösteren etkileşimli gösterim.

İki hipotez, iki yüzey

Yatay eksen: bir parametre (ör. S güç yasası üssü). Dikey eksen: hata (RSS).

Meslektaşın sanıyor
tuzak

Çok sayıda yerel minimum. Çözüm: daha iyi algoritma, rastgele sıçrama.

Kaynaklar diyor ki
düz taban

Kesinlikle dışbükey — tuzak yok. Ama taban düz: eğim yok, yön yok.

Tek başlangıçtan koş: nerede duruyorsun?

Gradyan inişi, 300 adım. Gerçek minimum x = 0.

3,0
Durduğu yer
—
RSS orada
—
‖gradyan‖
—

WRIVS — geniş başlangıç değeri taraması

Tek nokta yerine 13 başlangıç. En düşük RSS'e ulaşan yeşil.

Mantık farkı: daha iyi bir algoritma eğimi daha akıllı takip eder — ama düz tabanda takip edilecek eğim yok. WRIVS eğimi hiç kullanmaz; tabanı örnekler ve elde kalanların RSS'ini karşılaştırır. Sorun arama stratejisinde değil, yüzeyin bilgi taşımamasındaydı.