Artificial Neural Network

Neural network adalah model yang terinspirasi oleh bagaimana neuron dalam otak manusia bekerja. Tiap neuron pada otak manusia saling berhubungan dan informasi mengalir dari setiap neuron tersebut. Gambar di bawah adalah ilustrasi neuron dengan model matematisnya.




Tiap neuron menerima input dan melakukan operasi dot dengan sebuah weight, menjumlahkannya (weighted sum) dan menambahkan bias. Hasil dari operasi ini akan dijadikan parameter dari activation function yang akan dijadikan output dari neuron tersebut.

Activation Function

Nah, mungkin banyak yang bingung apa dan untuk apa activation function? Sesuai dengan namanya, activation function befungsi untuk menentukan apakah neuron tersebut harus “aktif” atau tidak berdasarkan dari weighted sum dari input. Secara umum terdapat 2 jenis activation function, Linear dan Non-Linear Activation function.

Linear Function


Bisa dikatakan secara “default” activation function dari sebuah neuron adalah Linear. Jika sebuah neuron menggunakan linear function, maka keluaran dari neuron tersebut adalah weighted sum dari input + bias.


Sigmoid and Tanh Function (Non-Linear)



Sigmoid function mempunyai rentang antara 0 hingga 1 sedangkan rentang dari Tanh adalah -1 hingga 1. Kedua fungsi ini biasanya digunakan untuk klasifikasi 2 class atau kelompok data. Namun terdapat kelemahan dari kedua fungsi ini, nanti akan coba saya jelaskan di part berikutnya.

Neural Network Architectures




Arsitektur diatas biasa disebut sebagai Multi Layer Perceptron (MLP) atau Fully-Connected Layer. Arsitektur pertama mempunyai 3 buah neuron pada Input Layer dan 2 buah node Output Layer. Diantara Input dan Output, terdapat 1 Hidden Layer dengan 4 buah neuron. Sedangkan spesifikasi Weight dan Activation function adalah sebagai berikut:

Weight and Bias

Setiap neuron pada MLP saling berhubungan yang ditandai dengan tanda panah pada gambar diatas. Tiap koneksi memiliki weight yang nantinya nilai dari tiap weight akan berbeda-beda.
Hidden layer dan output layer memiliki tambahan “input” yang biasa disebut dengan bias (Tidak disebutkan pada gambar diatas).
Sehingga pada arsitektur pertama terdapat 3x4 weight + 4 bias dan 4x2 weight + 2 bias. Total adalah 26 parameter yang pada proses training akan mengalami perubahan untuk mendapatkan hasil yang terbaik. Sedangkan pada arsitektur kedua terdapat 41 parameter.

Activation Function

Neuron pada input layer tidak memiliki activation function, sedangkan neuron pada hidden layer dan output layer memiliki activation function yang kadang berbeda tergantung daripada data atau problem yang kita miliki.



Komentar

Posting Komentar

Postingan populer dari blog ini

Pengertian Dialog, Monolog, Prolog dan Epilog

Banyak ditemukan istilah dalam sastra khususnya drama. Istilah-istilah tersebut di antaranya adalah  dialog, monolog, prolog, dan epilog . Seiring perkembangan istilah tersebut tidak hanya terdapat dalam  drama  saja, melainkan dalam prosa seperti novel, cerpen dan lain-lain. Berikut merupakan sedikit penjelasan mengenai Dialog, Monolog, Prolog dan Epilog. Dialog Dialog   adalah percakapan yang dilakukan dua orang (dua tokoh) atau lebih dengan maksud tertentu untuk tujuan jalannya sebuah cerita. Dalam menulis fiksi dialog memiliki banyak fungsi. Selain untuk menggambarkan percakapan tokoh-tokohnya, dialog juga bisa memunculkan karakter dari masing-masing tokoh. Dialog juga bisa memunculkan perbedaan budaya dari masing-masing tokoh. Misalnya dengan dialek atau bahasa percakapan yang berbeda logat. dialog juga berfungsi memberikan gambaran tentang setting atau latar pada sebuah cerita. Monolog Monolog adalah percakapan yang dilakukan seorang diri atau tok...
Baca selengkapnya

Pengertian Majas, Contoh dan Macam-macam Majas

Materi pelajaran Bahasa Indonesia yang terdapat pada kurikulum yang lama maupun baru sangatlah banyak, salah satunya ialah materi majas. Ya, majas merupakan materi yang cukup sering dibahas mulai dari jenjang pendidikan SD, SMP, hingga tingkat SMA/SMK. P engertian majas adalah bahasa indah yang digunakan untuk mempercantik susunan kalimat yang tujuan akhirnya ialah untuk memperoleh efek tertentu agar tercipta sebuah kesan imajinatif bagi penyimak atau pendengarnya, baik secara lisan maupun tertulis. Perihal istilah majas dalam pelajaran Bahasa Indonesia memang cukup banyak, seperti yang terdapat dalam puisi, pantun, dan karya sastra ataupun karya tulis lainnya. Selain itu, ada pengertian atau definisi lain yang menggambarkan tentang majas, yakni pemanfaatan gaya bahasa untuk memperoleh nuansa tertentu sehingga menciptakan kesan kata kata yang lebih imajinatif. Berbicara tentang contoh  macam-macam majas  seperti, Metafora, Personifikasi, Hiperbola, Alegori dan lain-lain ad...
Baca selengkapnya

ENKRIPSI DAN DEKRIPSI

Gambar
Pengertian Enkripsi Dan Penjelasannya Enkripsi yaitu suatu proses pengaman suatu data yang disembunyikan atau proses konversi data ( plaintext ) menjadi bentuk yang tidak dapat dibaca/ dimengerti. Enkripsi telah digunakan untuk mengamankan komunikasi di berbagai negara, namun, hanya organisasi-organisasi tertentu dan individu yang memiliki kepentingan yang sangat mendesak akan kerahasiaan yang menggunakan enkripsi. Di pertengahan tahun 1970an enkripsi kuat dimanfaatkan untuk pengamanan oleh sekretariat agen pemerintah Amerika Serikat pada domain publik, dan saat ini enkripsi telah digunakan pada sistem secara luas, seperti Internet, e-commerce, jaringan telepon bergerak dan ATM pada bank. Enkripsi dapat digunakan untuk tujuan keamanan, tetapi teknik lain masih diperlukan untuk membuat komunikasi yang aman, terutama untuk memastikan integrasi dan autentikasi dari sebuah pesan. Untuk menampilkan enkripsi dan kebalikannya dekripsi, digunakan algoritma yang biasa disebut Cipher d...
Baca selengkapnya