Bináris ki- és bemenetű CNN template-ek tervezése

Az előadások a következő témára: "Bináris ki- és bemenetű CNN template-ek tervezése"— Előadás másolata:

1 Bináris ki- és bemenetű CNN template-ek tervezése
Zarándy Ákos MTA-SZTAKI

2 A CNN template-ek generálási módszerei
Ösztönös, intuitív; Tanítás; Direkt tervezés; Ebben az előadásban a bináris ki- és bemenetű nem-propagáló és propagáló CNN template tervezést fogjuk áttekinteni.

3 Nem-propagáló CNN hálózatok áttekintése
Eredeti CNN egyenlet: Egy CNN hálózat nem propagáló, ha a template-je a következő formátumú: Ilyenkor az állapotot leíró differenciál egyenletrendszer csatolatlan. Az állapotegyenlet: Egyetlen cella jelfolyamgráfja:

4 Nem-propagáló bináris ki-bemenetű CNN hálózatok tulajdonságai
speciális esetek: a00=0; y =f(s); nem függ a végeredmény x0-tól!!! a00=1; (integrátor a lineáris tartományban) y =sign(s); nem függ a végeredmény x0-tól!!! a kimenet 2st alatt beáll, a tranziens lineáris, és nem exponenciális el kell kerülni az s=0 esetet! a00>1 (pozitív visszacsatolás) ha x0=0 akkor y =sign(s); ha x0=1 és a00+s>1 akkor y =1; nem változik ha x0=1 és a00+s<1 akkor y =-1; változik ha x0=-1 és -a00+s<-1 akkor y =-1; nem változik ha x0=-1 és -a00+s>-1 akkor y =1; változik általánosan: x0=x(0) ahol |x0|<1 akkor y =sign( (0) ); azaz y =sign(a00 y0-x0+s) el kell kerülni az a00+s =1 és a -a00+s =-1 eseteket!!!

5 Nem-propagáló bináris ki-bemenetű CNN template-ek csoportosítása
I. Egyszerű minta felismerés: nincs megkülönböztetve a központi elem; II. Feltételes pixel változtatás: meg van különböztetve a központi elem; III. Két bemenetű egy kimenetű függvények: a kezdeti állapot is értékes képi információt hordoz;

6 I. Egyszerű minta felismerés
Tervezési példa I Adott az alábbi etalon Cél Legyenek azok a pixelek feketék, melyeknek környezetében legalább 5 pixelpozíció ugyanaz, mint a megadott etalonon, a többi legyen fehér.

7 Az egyenlőtlenség rendszer:
I. Egyszerű minta felismerés: formátum meghatározás, egyenlőtlenség rendszer generálás Ilyenkor az etalont egyszerűen leképezhetjük a B template-be!!! Az egyenlőtlenség rendszer: (a00=1)  y =sign(s)

8 I. Egyszerű minta felismerés: az egyenlőtlenségrendszer megoldása és robusztus template kiválasztása
Eredmény altér relations: limitek: maximális chip paraméterértékek optimális template:

9 II. Feltételes pixel változtatás
Tervezési példa II Adott az alábbi etalon Cél (szkeletonizáció) Változzanak azok a fekete pixelek fehérre, amelyeknek a környezetében mind az 5 pozíció megegyezik az adott etalonnal.

10 II. Feltételes pixel változtatás: template formula meghatározás, egyenlet rendszer generálás
A B template középső eleme különböző módon viselkedik mint a nem centrális elemek!!!! a00>1, x0=0  y =sign(s)

11 III. Két bemenetű egy kimenetű függvények
Hasonló az előző típushoz, de itt a kezdeti állapot különböző értékeit is figyelembe kell venni az egyenlőtlenség rendszer felállításakor.

12 Propagáló CNN hálózat tulajdonságai
Általános propagáló típusú template: Az ehhez tartozó állapot egyenlet:

13 Csatolt CNN template tervezés:
Propagálás elemzése I Dinamikus propagálási szabály: A jobboldali vége egy egypixel széles fekete vonalnak mindig változzon fehérre. Aktív cella: Egy cellát aktívnak nevezünk egy adott időpillanatban, ha annak változik a kimenete. Inaktív cella: Egy cellát inaktívnak nevezünk egy adott időpillanatban, ha annak stabil a kimenete. Dinamikus aktivációs etalon:

14 Propagálás elemzése II
Csatolt CNN template tervezés: Propagálás elemzése II Aktív cella: Egy cellát aktívnak nevezünk egy adott időpillanatban, ha annak változik a kimenete. y(t)=1 A kijön szaturációs tartományból és átmegy a másikba y(t)=-1 Inaktív cella: Egy cellát inaktívnak nevezünk egy adott időpillanatban, ha annak stabil a kimenete. y(t)=1 és Bennt marad az adott szaturációs tartományban y(t)=-1 és

15 Propagálás tulajdonságai
Csatolt CNN template tervezés: Propagálás tulajdonságai I. Szimmetrikus vagy aszimmetrikus: Egyformán viselkedik a fekete és a fehér pixelekre, vagy sem? Szimmetrikus esetben az áram mindig nulla, aszimmetrikus esetekben pedig nullától különböző. II. Irányított vagy nem irányított Irányítani inputon levő képen keresztül lehet egy terjedést. Ha a B template nem nulla, akkor a terjedés irányított, különben nem.

16 Csatolt CNN template tervezés: A tervezés lépései

17 Tervezési példa III: árnyék generálás jobbra
Csatolt CNN template tervezés: Tervezési példa III: árnyék generálás jobbra A feladat globális leírása: Ez egy vonalmenti (egydimenziós) probléma. Ha van egy sorban egy fekete pixel, akkor az összes, tőle jobbra levő pixelnek feketére kell változnia, a többit változatlanul kell hagyni. A feladat aszimmetrikus és nem irányított terjedést ír elő.

18 A többi pixelnek nem szabad változnia; Szimmetrikus? (nem, ezért z0)
Csatolt CNN template tervezés : Lokális szabályok Egy fehér pixelnek feketére kell változnia, ha van fekete bal oldali szomszédja; A többi pixelnek nem szabad változnia; Szimmetrikus? (nem, ezért z0) Irányított? (nem, ezért B=0) Az etalon: Template formula meghatározás:

19 Csatolt CNN template tervezés : Egyenlőtlenség rendszer generálás
Eredmény template:

20 Tervezési példa IV: összeköttetöttség ellenőrzése
Csatolt CNN template tervezés: Tervezési példa IV: összeköttetöttség ellenőrzése A feladat globális leírása: Adott két kép. Töröljük le a második képről azokat a fekete alakzatokat, amelyeknek a mérete az első képen nagyobb. A feladat aszimmetrikus és irányított terjedést ír elő.

21 Template formula meghatározás:
Csatolt CNN template tervezés : Lokális szabályok Egy fekete pixelnek fehérre kell változnia, ha van legalább egy olyan szomszédja, melynek kimeneti értéke fehér bemeneti értéke pedig fekete; A többi pixelnek nem szabad változnia; Az etalon: Template formula meghatározás:

22 Csatolt CNN template tervezés : Egyenlőtlenség rendszer generálás
Eredmény template: