BAB 3. Prinsip dasar dari ANN

BAB 3. Prinsip dasar dari ANN

Prinsip Dasar dari Articial Neural Networks (ANNs) pertama kali dirumuskan oleh McCulloch dan Pitts pada 1943, dalam hal ini di asumsikan, sebagai berikut :



(1) Aktivitas dari sebuah neuron (ANN) adalah semua atau tidak sama sekali.

(2) Dari beberapa sinapsis yang berjumlah tetap lebih dari 1 harus lebih merangsang dengan diberikan interval dari saraf lain untuk neuron yang lebih dirangsang.

(3) Satu-satunya penundaan yang signifikan dalam sistem saraf adalah synaptic delay.

(4) Aktivitas beberapa penghambatan sinapsis sangat mencegah eksitasi dari neuron pada saat itu.

(5) Struktur dari inter koneksi jaringan tidak merubah over time.





Dengan asumsi (1) diatas, neuron adalah sebuah elment biner.

Sedangkan ini mungkin adalah kemungkinan historis dari prinsip awal sistematik, mereka tidak semuanya berlaku hari ini pada ANN design.

Hukum Hebbian (Hebbian Rule) karena Donald Hebb (1949) juga menerapkan prinsip ini secara luas.

Hukum Hebbian menyatakan bahwa :

"Ketika sebuah axon dari sel A sudah cukup dekat untuk merangsang sel B dan ketika itu berulang kali dan terus-menerus mengambil bagian dalam cincin itu, maka beberapa proses pertumbuhan atau perubahan metabolik terjadi pada satu atau kedua sel ini sehingga efisiensi sel A [Hebb 1949]

meningkat" (yaitu | berat kontribusi output dari sel A ke

cincin di atas sel B meningkat).



Hebbian rule dapat dijelaskan dengan contoh sebagai berikut : misalkan sel S menyebabkan air liur yang di rangsang oleh sel F, dalam hal ini dirangsan ketika melihat makanan. Juga, misalakan sel L, yang dirangsan oleh mendengar bunyi lonceng yang berdering. Terhubung ke sel S tapi tidak dapat berdiri sendiri.



3.2. Basic Network Structures



(1) Historis, awal dari ANNs adalah Perceptron, yang diusulkan oleh psikologare Frank Rosenblatt (Psychological Review, 1958).

(2) The Artron (Statistical Switch-based ANN) karena R. Lee (1950s).

(3) The Adaline (Adaptive Linear Neuron, due to B. Widrow, 1960). Arti dari neuron ini juga dikenal sebagai ALC (adaptive linear combiner), ALC menjadi prinsip komponen ini. Adalah neuron tunggal, bukan merupakan sebuah jaringan.

(4) The Madaline (Many Adaline), juga karena Widrow (1988). adalah sebuah ANN

(jaringan) dirumuskan berdasarkan adaline diatas.



Prinsip dari 4 neuron diatas, terutama Perceptron, yang umum membangun blok-blok yang nantinya akan berkembang menjadi ANN.



Tiga jaringan mendasar lainya adalah :

(5) Jaringan The Back-Propagation | adalah sebuah Perseptron multi layer ANN, memberikan solusi yang elegan untuk menyembunyikan layer [Rumelhart et al., 1986 and others].

(6) Jaringan Hopeld , John Hopeld (1982).

jaringan ini berbeda dari 4 ANN sebelumnya yang memiliki aspek-aspek penting, terutama dalam fitur perulangan dari umpan balik antar neuron-neuron. karenanya,

meskipun beberapa dari prinspnya belum tergabung dalam kelas ANN itu sendiri.

(7) Jaringan Counter-Propagation [Hecht-Nielsen, 1987] | dimana Kohonen's

Self-Organizing Mapping (SOM) digunakan untuk memfasilitasi pengawasan.



3.3. The Perceptron's Input-Output Principles



Perseptron, adalah kemungkinan historis dari awalnya neuron yang diusulkan [Rosenblatt, 1958], juga dasar pembangunan blok-blok terdekat ANN.

Artron dapat membagi klaim dari neuron tertua. Bagaimanapun,itu tidak memiliki sifat umum dari Perceptron dan Adaline erat kaitanya, dan itu tidak berpengaruh dalam historis ANN kecuali diperkenalkan dalam statistik.






Gambar 3.1 Struktur biologis input output neuron. Komentar: Bobot input ditentukan melalui perubahan biokimia dendritik dan sinapsis modifikasi.







Gambar 3.2 Struktur skematik input output perseptron.



3.4. The Adaline (ALC)



The Adaline (Adaptive Linear Neuron) dari B. Widow (1960) memiliki struktur dasar

dari Perceptron bipolar seperti di Sec. 3.1 di atas dan melibatkan beberapa jenis leasterror-

persegi (LS) latihan beban. Ini mematuhi hubungan input / simpul mana:








dimana wo adalah bias pada prosedur percobaan. elmen non linear, di sini elemen threshold sederhana, untuk menghasilkan Adaline keluaran y sebagai :



y = sign(z)












Gambar 3.3 Activation function nonlinearity (Signum function)