Optimalizáció modell kalibrációja Adott az M modell, és p a paraméter vektora. Hogyan állítsuk be p -t hogy a modell kimenete az x bemen ő adatokon a legjobban.

Slides:



Advertisements
Hasonló előadás
Készítette: Kosztyán Zsolt Tibor
Advertisements

Események formális leírása, műveletek
A Szállítási feladat megoldása
Koordináták, függvények
Készítette: Kosztyán Zsolt Tibor
Nevezetes algoritmusok
Energetikai gazdaságtan
Függvények Egyenlőre csak valós-valós függvényekkel foglalkozunk.
MI 2003/9 - 1 Alakfelismerés alapproblémája: adott objektumok egy halmaza, továbbá osztályok (kategóriák) egy halmaza. Feladatunk: az objektumokat - valamilyen.
MI 2003/ A következőkben más megközelítés: nem közvetlenül az eloszlásokból indulunk ki, hanem a diszkriminancia függvényeket keressük. Legegyszerűbb:
Operációkutatás szeptember 18 –október 2.
Intervallum.
Optimális részhalmaz keresése Keresési tér. 0,0,0,0 1,0,0,0 0,1,0,0 0,0,1,0 0,0,0,10,0,1,1 1,1,0,0 1,0,1,0 0,1,1,0 1,1,1,0 1,0,1,1 0,1,1,1 1,1,1,11,1,0,1.
Bevezetés a gépi tanulásba február 16.. Mesterséges Intelligencia „A számítógépes tudományok egy ága, amely az intelligens viselkedés automatizálásával.
Szintaktikai elemzés március 1.. Gépi tanulás Osztályozási feladat: Adott egyedek egy halmaza és azok osztályba tartozási függvénye (tanító halmaz),
MI 2003/ Alakfelismerés - még egy megközelítés: még kevesebbet tudunk. Csak a mintánk adott, de címkék nélkül. Csoportosítás (klaszterezés, clustering).
Genetikus algoritmusok
Dr. Szalka Éva, Ph.D.1 Statisztika II. VII.. Dr. Szalka Éva, Ph.D.2 Mintavétel Mintavétel célja: következtetést levonni a –sokaságra vonatkozóan Mintavétel.
Statisztika II. VI. Dr. Szalka Éva, Ph.D..
Elektrotechnika 3. előadás Dr. Hodossy László 2006.
Dr. Szalka Éva, Ph.D.1 Statisztika II. VII.. Dr. Szalka Éva, Ph.D.2 Regresszióanalízis.
Lineáris programozás Modellalkotás Grafikus megoldás Feladattípusok
OPERÁCIÓKUTATÁS Kalmár János, 2012 Tartalom A nulla-egy LP megoldása Hátizsák feladat.
Előadó: Prof. Dr. Besenyei Lajos
III. előadás.
Differenciál számítás
Számoljuk meg rekurzív függvénnyel egy bináris fa leveleit!
Szabó Attila, Cross-entrópia alkalmazása a megerősítéses tanulásban.
Online hasonlóságelemzések: Online hasonlóságelemzések: Tapasztalatok (kukorica) hozamfüggvények levezetése kapcsán Pitlik László, SZIE Gödöllő (Forrás:
Evolúciósan stabil stratégiák előadás
Ismételt fogolydilemma játék sztochasztikus reaktív stratégiákkal. 4
Nem-paraméteres eljárások, több csoport összehasonlítása
Dr. Szalka Éva, Ph.D.1 Statisztika II. VI.. Dr. Szalka Éva, Ph.D.2 Regresszióanalízis.
Az Alakfelismerés és gépi tanulás ELEMEI
Matematikai alapok és valószínűségszámítás
Dinamikai rendszerek kaotikus viselkedése
Függvények.
Aszexuális, szimpatrikus speciáció
Készítette: Gergó Márton Konzulens: Engedy István 2009/2010 tavasz.
Idősor elemzés Idősor : időben ekvidisztáns elemekből álló sorozat
Lineáris programozás Elemi példa Alapfogalmak Általános vizsg.
Problémás függvények : lokális optimalizáció nem használható Globális optimalizáció.
Lokális optimalizáció Feladat: f(x) lokális minimumának meghatározása 0.Adott egy kezdeti pont: x 0 1.Jelöljünk ki egy új x i pontot, ahol (lehetőleg)
Optimalizáció modell kalibrációja Adott az M modell, és p a paraméter vektora. Hogyan állítsuk be p -t hogy a modell kimenete az x bemenő adatokon a legjobban.
Példa: a Streeter-Phelps vízminőségi modell kalibrálása
1 Mössbauer-spektrumok illesztése: vonalalak A kibocsátott  -sugárzás energiaspektruma Lorentz-görbe alakú: I : sugárzás intenzitása  : frekvencia 
Környezeti rendszerek modellezése 11. előadás Optimalizáció Balogh Edina.
A differenciálszámtás alapjai Készítette : Scharle Miklósné
Következtető statisztika 9.
Alapsokaság (populáció)
Lineáris regresszió.
Az ábrán az inicializáló blokk lefutása utáni állapotot láthatjuk. A KÉSZ halmazhoz való tartozást színezéssel valósítjuk meg. A nem KÉSZ csúcsok fehérek,
Kommunikációs Rendszerek
Genetikus algoritmusok
Business Mathematics A legrövidebb út.
A derivált alkalmazása
A folytonosság Digitális tananyag.
A Függvény teljes kivizsgálása
A HATÁROZOTT INTEGRÁL FOGALMA
Valószínűségszámítás II.
Menetrend optimalizálása genetikus algoritmussal
előadások, konzultációk
MI 2003/8 - 1 Alakfelismerés alapproblémája: adott objektumok egy halmaza, továbbá osztályok (kategóriák) egy halmaza. Feladatunk: az objektumokat - valamilyen.
Struktúra predikció Struktúra lehet Felügyelt tanulási probléma
Genetikus algoritmusok
Mediánok és rendezett minták
Nem módosítható keresések
Gazdaságinformatikus MSc
Absztrakt problémák Q  I  S, az absztrakt probléma kétváltozós reláció az esetek (I) és a megoldások (S) halmazán Példa: legrövidebb út Eset: gráf és.
Algoritmusok és Adatszerkezetek I.
Előadás másolata:

Optimalizáció modell kalibrációja Adott az M modell, és p a paraméter vektora. Hogyan állítsuk be p -t hogy a modell kimenete az x bemen ő adatokon a legjobban illeszkedjen az s megfigyelési adatsorhoz? Az eltérés x –en a modell kimenete és a mérések különbsége: e. e i = s i - M(x i,p) vagy e i =[s i – M (x i,p)] 2 stb… Az a legjobb illeszkedés s -hez ahol a hiba a lehet ő legkisebb. Feladat: állítsd be p –t hogy e( p) minimális legyen.

jeljelentésf ’(x)f ’’(x) lokális minimum0+ lokális maximum0- globális minimum?? globális maximum?? Optimalizáció lokális és globális széls ő értékek egy intervallumban optimalizációs elvek Széls ő érték: a pont, amihez a legnagyobb/kisebb függvényérték tartozik a környezetében. explicit megoldások ? korlátok ?

A megoldandó feladat általánosan: min f (x) Globális optimalizáció A megoldást az x  [ a, b ]  R n „n” dimenziós téglán” keressük. Minden globális optimalizáció a következ ő sémán alapul: Elvégzend ő feladatok : a. A keresési tartomány [ a, b ] feltérképezése, a jelölt pontok kiválasztása b. A jelölt pontok finomítása c. A kapott pontok értékelése, döntés a folytatásról. A keresési tartomány végtelen számú megoldást tartalmaz: 1.Nem értékelhetjük ki mindet 2.A fenti miatt sosem lehetünk biztosak benne, hogy a legjobbat találtuk meg. GYAKORI A PROBLÉMÁK DISZKRETIZÁLÁSA: csak véges számú megoldás lesz.

[a 1,b 1 ] [a 2,b 2 ] Lokális széls ő értékek Globális optimum Következtetés: A globális szemlélet megoldásai nem „gradiens” jelleg ű ek, vagyis nem szükségszer ű en esnek egybe egy lokálisan is optimumnak tekinthet ő megoldással! Globális optimalizáció

problémás függvények : lokális optimalizáció nem használható Globális optimalizáció

Példa 1 : Az intervallum módszer kiterjesztése X opt Az egyes intervallumok kapnak egy olyan mutatót, ami azt a valószín ű séget fejezi ki, hogy a megoldás bennük van. Mindig azt az intervallumot felezzük, aminél ez a mutató a legnagyobb. A „bennragadást” azzal kerüljük el, hogy a nem optimális sz ű k intervallumok mutatója lecsökken, ezért egy másikra váltunk. A módszer legfontosabb jellemz ő je a mutató számítási eljárás. m = f ( intervallum nagyság, fv. értékek )

X opt x xhxh Lehatárolás (C i ) egyenes vonalakkal Globális optimalizáció Az eredeti függvényhez egy távolság arányos büntet ő fv-t adunk hozzá, ha kilép a határok közül. Az optimalizáció a valós és a büntet ő fv értékek összegére (F) vonatkozik. A büntet ő fv „visszatereli” a keresést a határok közé.

véletlenszer ű tippelés – sztochasztikus eljárás az eloszlás mindig lefedi a teljes keresési intervallumot, ezért nem fordulhat el ő „bennragadás” nagyon lassú Globális optimalizáció Példa 2 : Monte-Carlo keresés

Globális optimalizáció 3. Szimulált szilárdulás (simulated annealing) Leh ű l ő fémek kristályosodását utánozza. (Ott egy elegend ő en alacsony energiatartalmú szerkezet alakul ki.) 1. Vegyünk egy véletlenszer ű kezdeti megoldást (ez lesz az eddigi legjobb is) 2. Állítsuk be a h ő mérséklet (kT) kezdeti értékét 3. Folytassunk le egy Metropolis MC szimulációt ezen a h ő mérsékleten Vegyünk egy szomszédos megoldást (csak egy elemben különbözik) Értékeljük ki Ha jobb megoldás, mint az eddigi legjobb, akkor elfogadjuk újnak Ha rosszabb, akkor p=exp(-dE/T) (Boltzmann) valószín ű séggel fogadjuk el 4. Némiképp csökkentsük a h ő mérsékletet. 5. Ha elértük a végs ő h ő mérsékletet, akkor vége, egyébként vissza a 3. pontba.

Globális optimalizáció Alkalmazható leh ű lési minták

Globális optimalizáció Az utazó ügynök probléma Alap megoldás folyóval, de az ingyen keresztezhet ő. Ha a folyó keresztezése pénzbe kerül. Ha az ügynök csempész, a folyó keresztezése hasznot hoz. Hogyan fűzhetőek fel a meglátogatandó városok, hogy minimális legyen a megtett út?

Globális optimalizáció Kiterjesztés folytonos változókra Eddig csak diszkrét megoldásokról volt szó. Folytonos térben a “szomszédos” megoldás nem definiált. Minden ugyanúgy m ű ködik, csak a véletlenszer ű szomszédos megoldás helyett egy olyan módszer kell, ami egy értelmes irányban kijelöli a következ ő pont (nem túl távoli) helyét. Erre a célra szinte bármelyik lokális optimalizációs eljárás egyetlen lépését használhatjuk fel.

Globális optimalizáció Példa 4 : Evolúciós algoritmus Megoldások halmaza = populáció Egy megoldás (pont) = egyed Új megoldások generálása = szaporítás/mutáció A populáció a saját „fitness fv”-ét maximalizálja az alkalmazkodás során, így az fitness fv az optimalizálandó fv -1 -szerese.

A kezdeti populációt véletlenszer ű en szétszórjuk a vizsgált tartományon Kiértékeljük az egyedek teljesítményét („ fitness függvény”) A jobbakat (nagy fitness érték) szaporít juk, a rosszabbak elpusztul nak. A „bennragadás” elkerülésére a mutáció szolgál (f ő leg a rosszabbaknál fordul el ő ) Globális optimalizáció Az evolúciós algoritmus menete leállási kritérium ?

Globális optimalizáció Szaporítás rekombinációval A szaporítás a két kiválasztott egyed génjeinek rekombinációjával történik. Minden utód egy elpusztult egyed helyére kerül be, így a populáció létszáma állandó marad A gének kódolására legelterjedtebb a bináris kódolás A rekombináció során csak génhatáron törhet a kromoszóma Bináris kódolás (11, 6, 9) kromoszóma gén A B szakadási pont = génhatár A kódolás legf ő bb szempontja : a rekombináció során értelmes eredmény jöjjön ki. Pl: A & B eredménye olyan legyen, ami a kett ő között van. Egy változó több gén legyen, mert különben változatlanul örökl ő dik. Ez is diszkretizálás!

A mutáció véletlenszer ű en (kis valószín ű séggel) bekövetkez ő változás a „bázisokban”. A mutáció el ő fordulása a kisebb fitness fv- ű egyedek között gyakoribb. A mutáció szolgál a „bennragadás” elkerülésére. Globális optimalizáció Mutáció (11, 6, 9) (11, 6, 13) mutáns bázis

Kezdeti populáció5. generáció10. generáció Globális optimalizáció Evolúciós algoritmus viselkedése

Globális optimalizáció A populáció teljesítménye

Globális optimalizáció Az általános elvek megvalósulása Keresési tartomány = a gének által kifejezhet ő tartomány Térképezés = mutáció A jelöltek finomítása = szaporítás Nagy populáció : többszálú térképezés  lassú számítás Sok generáció : soklépéses optimalizáció  lassú számítás Az algoritmus tuningolása