Activation function
L'activation function d'un noeud définit la sortie de ce noeud donné une entrée ou un ensemble d'entrées. Un circuit de puce informatique standard peut être vu comme un réseau numérique de fonctions d'activation pouvant être "ON" (1) ou "OFF" (0), en fonction de l'entrée. Ceci est similaire au comportement du perceptron linéaire dans les réseaux de neurones .
Cependant, seuls nonlinea r activation fu elles fonctions permettent de tels réseaux pour calculer des problèmes triviaux en utilisant seulement un sm tout nombre de nœuds . Dans les réseaux de neurones artificiels, cette fonction est aussi appelée la trans fonction de fer .