Rbf siete
This presentation is the property of its rightful owner.
Sponsored Links
1 / 25

RBF siete PowerPoint PPT Presentation


  • 91 Views
  • Uploaded on
  • Presentation posted in: General

RBF siete. Prednášky FEI KASR 2005 Stefan Kozák. Vstupná vrstva. Nelineárna bázická funkcia. Line árna fcia výstupná vrstva. RBF a rchite k t úra. RBF siete a bázické funkcie. Formy výstupnej funkcie zo skrytej vrstvy f defin uje množinu bázických funkcií.

Download Presentation

RBF siete

An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -

Presentation Transcript


Rbf siete

RBF siete

Prednášky

FEI KASR 2005 Stefan Kozák


Rbf siete

Vstupná

vrstva

Nelineárna

bázická funkcia

Lineárna fcia

výstupná vrstva

.

.

.

RBF architektúra


Rbf siete

RBF siete a bázické funkcie

  • Formy výstupnej funkcie zo skrytej vrstvy

  • f definuje množinu bázických funkcií


Rbf siete

Radial Basis Funkcie (RBF)

  • Štruktúra siete s RBF

    • Jedná skrytá vrstva

    • Aktivačná funkcia v skrytej vrstve je funkciou vzdialenosti medzi vstupným vektorom a vzorom

Výstup

Radialne

báz. jednotky

Vstupy


Rbf siete

Porovnanie sietí RBF – MLP :

Viacvrstvový perceptrón

RBF sieť

Výstup

Nelineárna

aktiv. funkcia

Nelineárna

báz. funkcia

Vstupné údaje

Vstupné údaje

RBF - iba jedná skryta vrstva MLP - viacero skrytých vrstiev


Rbf siete

Architektúra RBF siete

Skrytá

vrstva

Vstupné údaje


Rbf siete

MLP versus RBF

  • Klasifikácia

    • MLP oddeľuje triedy hyperovinou

    • RBF oddeľuje jednotlivé triedy hyperguľami

    • Učenie

    • MLP distribuované učenie

    • RBF lokalizované učenie

    • RBF rýchle trénovanie

  • Structure

    • MLP má jednú alebo viac vrstiev

    • RBF má len jednú vrstvu

    • RBF vyžaduje oveľa viac neurónov v skrytej vrstve

MLP

X2

X1

X2

RBF

X1


Rbf siete

Typické RBF používané v modelovaní a riadení

  • Hardy Multiquadratic

  • Inverse Multiquadratic

  • Gaussian


Rbf siete

Gaussian Basis Function (s=0.5,1.0,1.5)


Rbf siete

Nenatrénované

vzorky

Neznáma funkcia

na aproximáciu

y

Trénovacie

údaje

x

Aproximácia pomocou RBF


Rbf siete

Netrénované

vzorky

y

x

Výstup z RBF siete

y = w1*f(x) + w2*f(x) + w3*f(x) + b


Rbf siete

Neural network RBF - príklad

Problem – aproximačný pomocou RBF :

- merania vstupov a výstupov

- určenie centier a šírky RBF funkcií

Príklad :Merané údaje (tri vstupy, dva výstupy (žiadané hodnoty). Určiť váhové parametre RBF siete ?

vstupy

výstupy


Rbf siete

x1x2x3

yout

Gaussian neurons


Rbf siete

Neural network RBF riešenie

Pokračovanie príkladu – updatovanie váh v sieti

Výpočet výstupov zo siete

W1, W2

W3, W4

W19, W20


Rbf siete

Neural network RBF riešenie

Učenie RBF siete z nameraných údajov:

Pokračovanie príkladu :

Vstup

Výstup

Kritérium


Rbf siete

Neural network RBF riešenie

Učenie na základe meraných údajov

Pred učením Po naučení


Rbf siete

  • RBF skrytá vrstva zložená z funkcií, ktoré majú svoje centra

  • Funkcia RBF v skrytej vrstve je Gausova funkcia

  • Výstup zo skrytej vrstvy je

  • Výstupná vrstva je lineárna funkcia


Rbf siete

Trénovanie RBF siete

  • Dve nezávislé etapy:

    • 1. vstupná vrstva

      • Výpočet centier RBF a centier zo I/O data. (E. g. K-means (EM algorithms)

      • Posuv údajov do 2. vrstvy

    • 2. výstupná vrstva:

      • Výpočet váhových koeficientov

      • Aplikácia metódy učenia.

  • Ako vypočítať váhy vo výstupnej vrstve ?

    • is a linear function (Least Mean Square (LMS)algorithm).


Rbf siete

Nastavovanie váh v RBF sieti - zovšeobecnenie

  • Kriteriálna funkcia pre nastavovanie váh

    RBF sieť je trénovana tak aby udatovaním váh sa minimalizoval rozdiel medzi výstupom zo siete a nameranými (cieľovými hodnotami) na základe vstup. údajov

  • Zmena váh sa realizuje podľa vzťahu

    kde je koef. rýchlosti učenia. je gradient .

    pričom . Ak je lineárna, potom

    Updatovanie váhpodobne ako u MLP

Tkp

cieľové hodnoty

Okp

výstup z RBF


Rbf siete

Summary of RBF Algoritmu

  • Step 1: Výpočet centierRBFa šíriekz I/O údajov.

  • Step 2: Výpočet výstupu z RBF (skrytá vrstva)

  • Step 3: updatovanie váh

  • kde

  • Step 4: Opakovanie krokov 2-3 pre každý „súbor“vstupnej množiny.

  • Step 5: Opakovanie krokov 2-4 podľa hodnoty krit. funkcie, podmienok ukončenia trénovania, alebo iných ukončovacích podmienok .


Rbf siete modelovanie dynamick ch procesov na z klade i o dajov

RBF siete modelovanie dynamických procesov na základe I/O údajov


Rbf siete

Štruktúra siete


Rbf siete

Proces


  • Login