Nie obrażaj więc mojej inteligencji poprzez czynione na pokaz zaniżanie własnej.
Sztuczne sieci neuronowe
Krzysztof A. Cyran
POLITECHNIKA ŚLĄSKA
Instytut Informatyki, p. 311
Wykład 7
PLAN:
-
Repetitio (brevis)
-
Algorytmy miękkiej selekcji:
algorytmy ewolucyjne
symulowane wyżarzanie
-
Opowieść o kangurach
Repetitio
•
W aspekcie architektury
: zajmowaliśmy się
tylko sieciami typu
feed-forward
•
W aspekcie działania pojedynczego
neuronu
: rozważaliśmy tylko neurony
sigmoidalne oraz radialne
Repetitio (cd.)
W aspekcie uczenia
: szczegółowo przedstawiono
tylko gradientowe algorytmy uczenia
nadzorowanego:
•
backpropagation
(wraz z modyfikacjami
inercyjnymi) (algorytm I rzędu)
•
metodę zmiennej metryki
(algorytm II rzędu)
•
metodę gradientów sprzężonych
(algorytm I
rzędu)
Algorytmy miękkiej selekcji
Algorytmami miękkiej selekcji nazywamy
algorytmy umożliwiające akceptowanie wzrostu
minimalizowanej funkcji celu, po to by
ewentualnie ominąć strefę przyciągania minimum
lokalnego. Do najbardziej znanych należą metody
bazujące na:
•
Algorytmach ewolucyjnych (genetycznych)
•
Symulowanym wyżarzaniu (odprężaniu)
zanotowane.pldoc.pisz.plpdf.pisz.plalter.htw.pl