BAB 12 RECURRENT (TIME CYCLING) BACK PROPAGATION NETWORKS

12.1 RECURRENT /DISCRETE TIME NETWORK
 
Struktur berulang dapat diperkenalkan ke jaringan saraf backpropagation dengan memberikan kembali output jaringan untuk input. Fitur berulang ini terdapat dalam langkah diskrit dari nilai perhitungan. Itu pertama diusulkan oleh Rumelhart et al. (1986) dan kemudian oleh Pineda (1988), Hecht {Nielson (1990) dan oleh Hertz et al. (1991). Pengaturan ini memungkinkan kerja backpropagation dengan sejumlah kecil lapisan tersembunyi dengan cara yang efektif.
Jaringan backpropagartion berulang dijelaskan pada Gambar. 12.1. Unsur-unsur penundaan (D pada Gambar. 12.1) memberikan umpan balik  berulang yang terpisah antara Waktu-langkah. Gambar 12.1. Sebuah struktur jaringan saraf berulang.
12.1
Jaringan Gambar. 12.1 menerima input x1 dan x2 pada berbagai langkah waktu satu urutan lengkap (set) yang consititutes siklus pertama. Nilai yang dihitung dalam jaringan back-propagasi konvensional dan mencapai lebih dari semua waktu langkah-langkah dari siklus tanpa penyesuaian nilai sebenarnya hingga akhir siklus itu. Pada setiap kali melangkah output y1 dan y2 diberikan sebagai input untuk waktu langkah berikutnya. Pada akhir satu scan lengkap dari semua masukan, siklus berikutnya dimulai dengan scan lengkap baru dari input yang sama dan langkah-langkah waktu seperti pada siklus sebelumnya. Ketika jumlah input berbeda dari jumlah output, maka struktur Gambar. 12.2 dapat digunakan.
Kedua struktur dalam Gambar. 12.1 dan 12.2 setara dengan struktur di mana jaringan dasar (kecuali untuk umpan balik dari satu langkah waktu untuk yang lain) diulang m-kali, untuk menjelaskan langkah-langkah waktu dalam struktur berulang. Lihat Gambar. 12.3.
 
12..2 FULLYRECURRENT NETWORKS
 
 
Jaringan berulang sepenuhnya mirip dengan jaringan Sec. 12.1 kecuali pada lapisan umpan-balik ke lapisan sebelumnya, seperti pada Gambar. 12.4. Sekarang output pada setiap siklus menjadi masukan ke neuron berulang di siklus berikutnya.
 
  12.3 CONTINUOUSLY RECURRENT  BACK PROPAGATION NETWORKS
 
Jaringan Back Propagatian terus berulang menggunakan struktur yang sama seperti pada Gambar. 12.1 dan 12.2 tapi recurrency diulang lebih kecil di interval waktu. Oleh karena itu, recurrency mematuhi di sebuah persamaan diferensial seperti dalam jaringan Hop lapangan terus menerus, yaitu
di mana τ adalah waktu koefisien yang konstan, xi menjadi masukan eksternal, g (…) menunjukkan fungsi aktivasi, yi menunjukkan output dan vj menjadi output dari lapisan tersembunyi neuron. Untuk stabilitas diperlukan bahwa setidaknya satu solusi stabil Persamaan. (12.1) ada, yaitu bahwa

Komentar

Posting Komentar

Postingan populer dari blog ini

SOAL UTS

Gambar
              1.APA ITU JST??? Jaringan saraf tiruan (JST) (Bahasa Inggris: artificial neural network (ANN) , atau juga disebut simulated neural network (SNN) , atau umumnya hanya disebut neural network (NN) ), adalah jaringan dari sekelompok unit pemroses kecil yang dimodelkan berdasarkan sistem saraf manusia. JST merupakan sistem adaptif yang dapat mengubah strukturnya untuk memecahkan masalah berdasarkan informasi eksternal maupun internal yang mengalir melalui jaringan tersebut. Oleh karena sifatnya yang adaptif, JST juga sering disebut dengan jaringan adaptif. Jaringan   Syaraf  Tiruan  dibuat  pertama  kali  pada  tahun  1943  oleh neurophysiologist Waren cCulloch dan logician Walter Pits, namun teknologi yang tersedia pada saat itu belum memungkinkan mereka berbuat lebih jauh. Jaringan ...
Terus membaca

BAB 7 Jaringan Hopfield

Gambar
BAB 7 Jaringan Hopfield 7.1 Pengantar Semua jaringan sampai sekarang diasumsikan hanya maju mengalir dari input ke output, yaitu interkoneksi yang tidak berulang. Hal ini terjamin stabilitas jaringan. Sejak jaringan saraf biologis menggabungkan umpan balik, jaringan buatan tertentu juga akan menggabungkan fitur itu. Jaringan Hopfield memang menggunakan umpan-maju dan umpan balik. Setelah umpan balik yang digunakan, stabilitas tidak dapat dijamin dalam kasus umum. Akibatnya, desain jaringan Hopfield harus menjadi salah satu yang menyumbang stabilitas di pengaturannya. 7.2 Jaringan Biner Hopfield Gambar 7.1 menggambarkan satu lapisan jaringan Hopfield berulang. Meskipun pada dasarnya jaringan single-layer, struktur umpan balik yang membuatnya efektif untuk berperilaku sebagai jaringan multi-layer. Keterlambatan umpan balik akan ditampilkan untuk menjalankan peran utama dalam stabilitas. Delay tersebut adalah untuk jaringan saraf biologis, menunda di celah sinaptik da...
Terus membaca

BAB 9 Adaptive Resonance Theory

Gambar
Adaptive Resonance Theory ( ART ) berasal oleh Carpenter dan Grossberg (1987a) untuk tujuan pengembangan jaringan saraf tiruan yang secara kinerja, khususnya (namun bukan hanya) di pengenalan pola atau klasifikasi tugas, lebih dekat dengan yang ada pada jaringan saraf biologis  dibanding kasus yang di sebelumnya dibahas jaringan. Salah satu tujuan utama mereka adalah untuk datang dengan jaringan saraf yang dapat melestarikan elastisitas jaringan biologis dalam belajar atau dalam mengenali pola-pola baru, yaitu, dalam belajar tanpa harus menghapus (lupa) atau untuk secara substansial menghapus pola sebelumnya belajar. Karena tujuan dari jaringan saraf ART adalah untuk  mendekati jaringan saraf biologis, jaringan saraf ART tidak membutuhkan “guru” tapi sebagai fungsi tanpa pengawasan jaringan mengorganisir diri. ART-I versi berhubungan dengan input biner. Perpanjangan ART-I yang dikenal sebagai ART-II [Carpenter dan Grossberg, 1987b] penawaran dengan kedua pol...
Terus membaca