Bináris ki- és bemenetű CNN template-ek tervezése Zarándy Ákos MTA-SZTAKI

A CNN template-ek generálási módszerei Ösztönös, intuitív; Tanítás; Direkt tervezés; Ebben az előadásban a bináris ki- és bemenetű nem-propagáló és propagáló CNN template tervezést fogjuk áttekinteni.

Nem-propagáló CNN hálózatok áttekintése Eredeti CNN egyenlet: Egy CNN hálózat nem propagáló, ha a template-je a következő formátumú: Ilyenkor az állapotot leíró differenciál egyenletrendszer csatolatlan. Az állapotegyenlet: Egyetlen cella jelfolyamgráfja:

Nem-propagáló bináris ki-bemenetű CNN hálózatok tulajdonságai speciális esetek: a00=0; y =f(s); nem függ a végeredmény x0-tól!!! a00=1; (integrátor a lineáris tartományban) y =sign(s); nem függ a végeredmény x0-tól!!! a kimenet 2st alatt beáll, a tranziens lineáris, és nem exponenciális el kell kerülni az s=0 esetet! a00>1 (pozitív visszacsatolás) ha x0=0 akkor y =sign(s); ha x0=1 és a00+s>1 akkor y =1; nem változik ha x0=1 és a00+s<1 akkor y =-1; változik ha x0=-1 és -a00+s<-1 akkor y =-1; nem változik ha x0=-1 és -a00+s>-1 akkor y =1; változik általánosan: x0=x(0) ahol |x0|<1 akkor y =sign( (0) ); azaz y =sign(a00 y0-x0+s) el kell kerülni az a00+s =1 és a -a00+s =-1 eseteket!!!

Nem-propagáló bináris ki-bemenetű CNN template-ek csoportosítása I. Egyszerű minta felismerés: nincs megkülönböztetve a központi elem; II. Feltételes pixel változtatás: meg van különböztetve a központi elem; III. Két bemenetű egy kimenetű függvények: a kezdeti állapot is értékes képi információt hordoz;

I. Egyszerű minta felismerés Tervezési példa I Adott az alábbi etalon Cél Legyenek azok a pixelek feketék, melyeknek környezetében legalább 5 pixelpozíció ugyanaz, mint a megadott etalonon, a többi legyen fehér.

Az egyenlőtlenség rendszer: I. Egyszerű minta felismerés: formátum meghatározás, egyenlőtlenség rendszer generálás Ilyenkor az etalont egyszerűen leképezhetjük a B template-be!!! Az egyenlőtlenség rendszer: (a00=1)  y =sign(s)

I. Egyszerű minta felismerés: az egyenlőtlenségrendszer megoldása és robusztus template kiválasztása Eredmény altér relations: limitek: maximális chip paraméterértékek optimális template:

II. Feltételes pixel változtatás Tervezési példa II Adott az alábbi etalon Cél (szkeletonizáció) Változzanak azok a fekete pixelek fehérre, amelyeknek a környezetében mind az 5 pozíció megegyezik az adott etalonnal.

II. Feltételes pixel változtatás: template formula meghatározás, egyenlet rendszer generálás A B template középső eleme különböző módon viselkedik mint a nem centrális elemek!!!! a00>1, x0=0  y =sign(s)

III. Két bemenetű egy kimenetű függvények Hasonló az előző típushoz, de itt a kezdeti állapot különböző értékeit is figyelembe kell venni az egyenlőtlenség rendszer felállításakor.

Propagáló CNN hálózat tulajdonságai Általános propagáló típusú template: Az ehhez tartozó állapot egyenlet:

Csatolt CNN template tervezés: Propagálás elemzése I Dinamikus propagálási szabály: A jobboldali vége egy egypixel széles fekete vonalnak mindig változzon fehérre. Aktív cella: Egy cellát aktívnak nevezünk egy adott időpillanatban, ha annak változik a kimenete. Inaktív cella: Egy cellát inaktívnak nevezünk egy adott időpillanatban, ha annak stabil a kimenete. Dinamikus aktivációs etalon:

Propagálás elemzése II Csatolt CNN template tervezés: Propagálás elemzése II Aktív cella: Egy cellát aktívnak nevezünk egy adott időpillanatban, ha annak változik a kimenete. y(t)=1 A kijön szaturációs tartományból és átmegy a másikba y(t)=-1 Inaktív cella: Egy cellát inaktívnak nevezünk egy adott időpillanatban, ha annak stabil a kimenete. y(t)=1 és Bennt marad az adott szaturációs tartományban y(t)=-1 és

Propagálás tulajdonságai Csatolt CNN template tervezés: Propagálás tulajdonságai I. Szimmetrikus vagy aszimmetrikus: Egyformán viselkedik a fekete és a fehér pixelekre, vagy sem? Szimmetrikus esetben az áram mindig nulla, aszimmetrikus esetekben pedig nullától különböző. II. Irányított vagy nem irányított Irányítani inputon levő képen keresztül lehet egy terjedést. Ha a B template nem nulla, akkor a terjedés irányított, különben nem.

Csatolt CNN template tervezés: A tervezés lépései

Tervezési példa III: árnyék generálás jobbra Csatolt CNN template tervezés: Tervezési példa III: árnyék generálás jobbra A feladat globális leírása: Ez egy vonalmenti (egydimenziós) probléma. Ha van egy sorban egy fekete pixel, akkor az összes, tőle jobbra levő pixelnek feketére kell változnia, a többit változatlanul kell hagyni. A feladat aszimmetrikus és nem irányított terjedést ír elő.

A többi pixelnek nem szabad változnia; Szimmetrikus? (nem, ezért z0) Csatolt CNN template tervezés : Lokális szabályok Egy fehér pixelnek feketére kell változnia, ha van fekete bal oldali szomszédja; A többi pixelnek nem szabad változnia; Szimmetrikus? (nem, ezért z0) Irányított? (nem, ezért B=0) Az etalon: Template formula meghatározás:

Csatolt CNN template tervezés : Egyenlőtlenség rendszer generálás Eredmény template:

Tervezési példa IV: összeköttetöttség ellenőrzése Csatolt CNN template tervezés: Tervezési példa IV: összeköttetöttség ellenőrzése A feladat globális leírása: Adott két kép. Töröljük le a második képről azokat a fekete alakzatokat, amelyeknek a mérete az első képen nagyobb. A feladat aszimmetrikus és irányított terjedést ír elő.

Template formula meghatározás: Csatolt CNN template tervezés : Lokális szabályok Egy fekete pixelnek fehérre kell változnia, ha van legalább egy olyan szomszédja, melynek kimeneti értéke fehér bemeneti értéke pedig fekete; A többi pixelnek nem szabad változnia; Az etalon: Template formula meghatározás:

Csatolt CNN template tervezés : Egyenlőtlenség rendszer generálás Eredmény template: