|
Neuronové sítě Specifika neuronových sítí: 1) Neuronové sítě jsou biologickými neuronovými sítěmi - uměle vytvořené neuronové sítě by měly být schopny se chovat stejně nebo alespoň podobně jako jejich biologické vzory. Skýtá se tu šance simulovat některé funkce lidského myšlení. 2) Neuronové sítě využívají distribuované, paralelní zpracování informace při provádění výpočtů - ukládání, zpracování a předávání informace probíhá prostřednictvím celé neuronové sítě spíše než pomocí určitých paměťových míst. 3) Znalosti jsou ukládány především prostřednictvím síly vazeb mezi jednotlivými neurony. Vazby mezi neurony vedoucí ke "správné odpovědi" jsou oslabovány pomocí opakované expozice příkladů popisujících problémový prostor. 4) Učení je základní a podstatná vlastnost neuronových sítí. Model neuronu Uměle vytvořený neuron je dán svým biologickým vzorem a tvoří jakousi základní "výpočetní jednotku" složitějšího komplexu - neuronové sítě
Dendrity - reprezentují místo vstupu signálu do těla neuronu. Tělo buňky - sčítá signály dané okolními neurony. Takto stanovený vnitřní potenciál vede k excitaci (vybuzení) neuronu. Axonové vlákno - přináší signál daný stupněm excitace k synapsí. Synapse - tvoří výstupní zařízení neuronů, které signál zesilují či zeslabují a předávají dalším neuronům. Neuron prvé generace (McCulloch) Jedním z prvních modelů neuronu byl navržen McCullochem a jeho zjednodušení spočívalo v zavedení excitačních resp. inhibičních vazeb neuronu. První typ vazby je reprezentován synaptickou vahou rovné hodnotě 1 a druhý pak hodnotou 0. Každý neuron má definovanou svou vnitřní hodnotu prahu, která musí být překonána vnitřním potenciálem neuronu, aby došlo k jeho vybuzení (hodnota výstupního signálu 1). Tento jednoduchý způsob definice umožňuje modelovat různé procesy, např. podmíněný reflex. Podmíněný reflex Model se skládá ze třech neuronů s definovanou hodnotou prahů, dvou vstupů (nepodmíněných U- unconditioned a podmíněný C-conditioned), jednoho výstupu (podmíněný reflex O-output) a pouze z excitačních vazeb. Pokud bychom pro přenos signálu neuronové síti zavedli hodiny, pak jednotlivé takty reprezentované tabulkou dokumentují proces vyvolání podmíněného reflexu (takt 6 a 7), kdy vstupní signál je přiveden pouze na vstup C a následuje odezva systému rovna hodnotě 1.
Perceptron Jedním z nejdůležitějších modelů dodnes používaných je tzv.
perceptron, jehož potenciál je definovaný jako vážený součet vstupních
signálů. Pokud tento vnitřní potenciál neuronu překonává jeho prahovou
hodnotu Matematicky to lze vyjádřit jako funkce signum: Zavedením stálého neuronu na vstupu se stavem excitace x0=1
a vazbou k našemu neuronu w0= -
Pokud provedeme analýzu výrazu v závorce, získáme rovnici nadroviny (v dvourozměrném případě reprezentovanou přímkou)
Tato rovina rozděluje vstupní prostor na dva poloprostory. Jinými slovy, jsme schopni prostřednictvím perceptronu rozlišit dvě třídy vstupů. Otázkou nyní je, jak stanovit hodnoty vah neuronu, aby byl schopen správně rozpoznávat předložené vstupy. Jedním z nejznámějších principů je adaptace (učení perceptronu rozlišit dvě třídy vstupů perceptronu). Adaptace perceptronu (Hebb) 1) Inicializace vah a prahu náhodnými malými čísly wi(t) - váha vstupu i v čase t. 2) Předložení vstupu a požadovaného výstupu z trénovací množiny (x0, ..., sn) -->d(t). 3) Stanovení skutečné odezvy
4) Adaptace výstup je správný wi(t+1) = wi(t) výstup je 0 a měl být 1 wi(t+1) = wi(t) + xi(t) výstup je 1 a měl být 0 wi(t+1) = wi(t) - xi(t) Vícevrstvé sítě Pravděpodobně nejrozšířenější způsob propojení
perceptronů jsou tzv. vícevrstvé sítě, jejichž topologie je následující: Neuronová síť je tvořena minimálně třemi vrstvami neuronů: vstupní, výstupní a alespoň jednou vnitřní vrstvou. Vždy mezi dvěma sousedními vrstvami se pak nacházejí tzv. úplné propojení neuronů. Podrobnější informace můžete nalézt v [8]. |
, dojde k excitaci neuronu na hodnotu 1. V opačném případě
je neuron inhibitován, což je reprezentováno hodnotou 0.
