Une representation mathematique au premier ordre de notre neurone peut etre ceci

Ou, les connections sont representees par les lignes en entrees et leurs poids associes. Le neurone en lui meme, ne realise que des accumulations et des mulitiplications pour chaques pulses provenant des divers connections
Quand un pulse vient d'une connection, il est tout d'abord mulitplie par un
nombre appele le poid de la connection qui attibue une certaine importance a
la connection (identique a la largeur d'un dentrite dans le cas d'un neurone
biologique), et qui ensuite accumule le resultat globale, en passant cette
valeur a travers un seuil qui emet un pulse des que sa valuer est depassee.
La sortie est a son tour connectee sur les entrees de plusieurs autres
neurones, ce qui forme a la fin un reseau complet.
Malheureusement, il est encore difficile d'appliquer ce modele pourtant simple a l'informatique, car les signaux transmis par les neurones biologiques sont sous la forme de pulses, c'est a dire qu'ils prennent les valeurs 0 ou 1 et c'est tout. A la place, nous adopterons une simplification supplementaire - ignorant la phase et la frequence d'apparition de ces pulses, nous considererons a la place des nombres mathematique normaux que nous fournirons a l'entree et que nous recupererons a la sortie.
Ainsi, pouvons nous en pratique, utiliser des nombres reelles aussi bien en
sortie qu'en entre pour modeliser les echanges entre les differents
neurones ?
La reponse est oui.
A la place d'une fonction de seuil, nous pouvons utiliser une fonction
mathematique comme la fonction sigmoid 1/(1 + exp(-x)), mais nous pouvons
aussi utiliser des fonctions comme arctangent, arcsine, etc. Ces fonctions
doivent etre continus et derivables (ie que vous ne devez pas utiliser une
fonction lineraire par morceaux par exemple) et avoir une limite superieur
et inferieur.
La fonction sigmoid est largement la plus utiliser, son allure est la suivante:

| Precedent | Sommaire | Suivant |