Knowledge Based Systems

Sisteme qe bazohen ne njohuri dhe rregulla te ruajtura per te arritur ne vendime ose konkluzione.

Dallimi mes Fuzzy Logic dhe Knowledge Based Systems

Njera lejon vlera te pjesshme dhe pasiguri, ndersa tjetra ne formen klasike perdor rregulla dhe vendime me vlera te percaktuara.

Logjika klasike

Punon zakonisht me vlera True ose False.

Logjika Fuzzy

Lejon vlera te pjesshme te vertetesise dhe shkalle te ndryshme te perkatesise.

Vlerat ne Fuzzy Logic

Mund te jene vlera te pjesshme si 0.21, 0.5 ose 0.9, jo vetem 0 dhe 1.

Pasiguria ne Fuzzy Logic

Mund te perfaqesohet duke perdorur shkalle te ndryshme te membership-it.

ReLU

Funksion aktivizimi qe vendos 0 per vlerat negative dhe i le vlerat pozitive te pandryshuara.

Formula e ReLU

f(x)=max(0,x)

ReLU per x negativ

Rezultati behet 0.

ReLU per x pozitiv

Rezultati mbetet i njejte me hyrjen.

Shembull ReLU per [-3,-1,0,2,5]

Rezultati eshte [0,0,0,2,5].

Leaky ReLU

Variant i funksionit te aktivizimit qe lejon nje pjese te vogel te vlerave negative ne vend qe t'i beje ato 0.

Formula e Leaky ReLU

f(x)=x kur x>0, ndersa f(x)=αx kur x<0.

Alpha ne Leaky ReLU

Koeficient i vogel, p.sh. 0.01, me te cilin shumezohen vlerat negative.

Leaky ReLU per x pozitiv

Vlera mbetet e pandryshuar.

Leaky ReLU per x negativ

Vlera shumezohet me nje koeficient te vogel si 0.01.

Shembull Leaky ReLU per [-3,-1,0,2,5] me α=0.01

Rezultati eshte [-0.03,-0.01,0,2,5].

Dallimi mes ReLU dhe Leaky ReLU

Njera i ben vlerat negative 0, ndersa tjetra lejon nje pjese te vogel te tyre.

Pse perdoret Leaky ReLU?

Per te lejuar qe edhe per hyrje negative te ekzistoje nje gradient i vogel gjate trajnimit.

Funksioni i aktivizimit

Transformon daljen e nje neuroni dhe ndihmon rrjetin te mesoje marredhenie jo-lineare.