Réseaux de neurones : historique, méthodes et applications

Un réseau neuronal est l’association, en un graphe plus ou moins complexe, d’objets élémentaires, les neurones formels. Les principaux réseaux se distinguent par l’organisation du graphe (en couches, complets. . .), c’est-à-dire leur architecture, son niveau de complexité (le nombre de neurones, présence ou non de boucles de rétroaction dans le réseau), par le type des neurones (leurs fonctions de transition ou d’activation) et enfin par l’objectif visé : apprentissage supervisé ou non, optimisation, systèmes dynamiques…

Perceptron multicouche

 But d’apprentissage supervisé. Les systèmes dynamiques, avec boucle de rétroaction, les réseaux récurrents (LSTM) ainsi que les cartes de Kohonen ou cartes auto-organisatrices pour la classification non supervisée ne sont pas abordés.

Architecture de perceptron multicouche

Le perceptron multicouche (PMC) est un réseau composé de couches successives. Une couche est un ensemble de neurones n’ayant pas de connexion entre eux. Une couche d’entrée lit les signaux entrant, un neurone par entrée xi, une couche en sortie fournit la réponse du système. Selon les auteurs, la couche d’entrée qui n’introduit aucune modification n’est pas comptabilisée. Une ou plusieurs couches cachées participent au transfert.

Dans un perceptron, un neurone d’une couche cachée est connecté en entrée à chacun des neurones de la couche précédente et en sortie à chaque neurone de la couche suivante.

Réseau de neurones feed-forward

Un réseau de neurones typique est le réseau feed-forward. Ce réseau propage l’entrée du réseau vers les couches suivantes sans jamais revenir en arrière. En plus du type de réseau de neurones, il faut également choisir une fonction d’erreur et une fonction d’activation pour les neurones. Ces choix sont souvent guidés par le type de données traitées.

Construction du réseau de neurones

Bien entendu, au départ, un réseau de neurones avec des poids initialisés aléatoirement donne de pauvres résultats. C’est pourquoi il y a une étape d’apprentissage, c’est-à-dire d’ajustement des poids du réseau afin que ceux-ci puissent donner de meilleures prédictions.

Une façon de voir le problème est d’essayer de minimiser l’erreur de prédiction du modèle. Cette formulation transforme le problème d’apprentissage en un problème d’optimisation pour lequel plusieurs algorithmes existent. L’optimisation de la fonction d’erreur s’effectue par l’ajustement des paramètres de la fonction, c’est-à-dire les poids et les biais du réseau de neurones.

Rétropropagation

L’idée de la rétropropagation est de faire circuler l’information sur la dérivée de la fonction d’erreur à partir de la couche de sortie, où l’erreur de prédiction est connue (la différence entre y et c), jusqu’à la couche d’entrée. Pour y arriver, il faut arriver à exprimer la dérivée de la fonction d’erreur d’un nœud en fonction de l’information donnée par les couches suivantes. De cette façon, les valeurs attendues de la couche de sortie pourront être rétropropagées vers l’entrée.

Télécharger le cours N°1 sur les Réseaux de neurones

Voir aussi :

Partagez au maximum pour que tout le monde puisse en profiter

The post Réseaux de neurones : historique, méthodes et applications first appeared on F2School.

L’article Réseaux de neurones : historique, méthodes et applications est apparu en premier sur F2School.

Réseau de Neurones Artificiels – cours – réseau de neurones

Les réseaux de neurones artificiels sont des réseaux fortement connectés de processeurs élémentaires fonctionnant en parallèle.

Chaque processeur élémentaire (neurone artificiel) calcule une sortie unique sur la base des informations qu’il reçoit.

Parallel Distributed Processing :

– Calculs élémentaires et parallèles

– Données/informations distribuées dans le réseau

Inspiration naturelle : analogie avec le cerveau

Fondements Biologiques

Structure des neurones

Le système nerveux est composé de 10¹² neurones interconnectés. Bien qu’il existe une grande diversité de neurones, ils fonctionnent tous sur le même schéma.

Ils se décomposent en trois régions principales :

– Le corps cellulaire

– Les dendrites

– L’axone

Fonctionnement des neurones

L’influx nerveux est assimilable à un signal électrique se propageant comme ceci :

– Les dendrites reçoivent l’influx nerveux d’autres neurones.

– Le neurone évalue l’ensemble de la stimulation reçue.

– Si elle est suffisante, il est excité : il transmet un signal (0/1) le long de l’axone.

– L’excitation est propagée jusqu’aux autres neurones qui y sont connectés via les synapses.

Le Neurone Formel

Le neurone formel, l’unité élémentaire d’un réseau de Neurones Artificiels, se compose de deux parties :

– évaluation de la stimulation reçue (fonction E)

– évaluation de son activation (fonction f)

Il est caractérisé par :

– son état X (binaire, discret, continu)

– le niveau d’activation reçu en entrée U

– le poids des connections en entrée W

Apprentissage

L’apprentissage est une phase du développement d’un réseau de neurones durant laquelle le comportement du réseau est modifié jusqu’à l’obtention du comportement désiré.

On distingue deux grandes classes d’algorithmes d’apprentissage :

– L’apprentissage supervisé

– L’apprentissage non supervisé

Télécharger le cours sur le Réseau de Neurones Artificiels :

Voir aussi :

Partagez au maximum pour que tout le monde puisse en profiter

The post Réseau de Neurones Artificiels – cours – réseau de neurones first appeared on F2School.

L’article Réseau de Neurones Artificiels – cours – réseau de neurones est apparu en premier sur F2School.

Introduction aux réseaux de neurones

Historique

• Mac Culloch et Pitts (1943) : définition d’un neurone formel

• Loi de Hebb (1949)

• Rosenblatt (1958), Widrow et Hoff : modèle avec processus d’apprentissage, perceptron

• Minsky et Papert (1969) : limites des perceptrons

• Kohonen (1972) : mémoires associatives

• Rumelhart – Mc Clelland (1980), Werbos – Le Cun : perceptron multi-couches, mécanismes d’apprentissage performants (rétro￾propagation du gradient).

Définitions

• apprentissage supervisé : les coefficients synaptiques sont évalués en minimisant l’erreur (entre sortie souhaitée et sortie obtenue) sur une base d’apprentissage.

• apprentissage non-supervisé : on ne dispose pas de base d’apprentissage. Les coefficients synaptiques sont déterminés par rapport à des critères de conformité : spécifications générales.

• sur-apprentissage : on minimise l’erreur sur la base d’apprentissage à chaque itération mais on augmente l’erreur sur la base d’essai. Le modèle perd sa capacité de généralisation : c’est l’apprentissage par cœur.

NEURONE FORMEL

Principes :

• pas de notion temporelle

• coefficient synaptique : coefficient réel

• sommation des signaux arrivant au neurone

• sortie obtenue après application d’une fonction de transfert

LOI DE HEBB

Principe :

Si deux neurones sont activés en même temps, alors la force de connexion augmente.

Base d’apprentissage :

On note S la base d’apprentissage.

S est composée de couples (e, c) où :

• e est le vecteur associé à l ’entrée (e1, …, en)
• c la sortie correspondante souhaitée

Algorithme :

• µ est une constante positive.
• Initialiser aléatoirement les coefficients wi
• Répéter :
  • Prendre un exemple (e, c) dans S
  • Calculer la sortie o du réseau pour l ’entrée e
  • Si c ≠ o
    • Modification des poids wij :
    • wij = wij + µ ∗ (ai ∗ aj)
    • Fin Pour
  • Fin Si
• Fin Répéter

Exemple :

• Exemple (1) : o = Signe(w1 ∗ e1 + w2 ∗ e2) = Signe(0) = − 1

o = − 1 ≠ 1 = x

⇒ w1 = w1 + e1 ∗ x = 1

w2 = w2 + e2 ∗ x = 1

• Exemple (2) : o = Signe((w1 ∗ e1 + w2 ∗ e2) = Signe(0) = − 1

o = − 1 ≠ 1 = x

⇒ w1 = w1 + e1 ∗ x = 2

w2 = w2 + e2 ∗ x = 0

Modèle biologique

Les neurones reçoivent des signaux (impulsions électriques) par les dendrites et envoient l’information par les axones.

• Les contacts entre deux neurones (entre axone et dendrite) se font par l’intermédiaire des synapses.
• Les signaux n’opèrent pas de manière linéaire : effet de seuil.

Applications de réseaux de neurones

• statistiques : analyse de données / prévision / classification
• robotique : contrôle et guidage de robots ou de véhicules autonomes
• imagerie / reconnaissance de formes
• traitement du signal
• simulation de l’apprentissage

télécharger le cours Introduction aux réseaux de neurones

Voir aussi :

Partagez au maximum pour que tout le monde puisse en profiter

The post Introduction aux réseaux de neurones – Réseaux de neurones first appeared on F2School.

L’article Introduction aux réseaux de neurones – Réseaux de neurones est apparu en premier sur F2School.

Introduction à l’intelligence artificielle – Cours – intelligence artificielle

Le but de l’intelligence artificielle est de concevoir des systèmes capables de reproduire le comportement de l’humain dans ses activités de raisonnement.

L’intelligence artificielle se fixe comme but la modélisation de l’intelligence prise comme phénomène.

Quelques domaines de l’intelligence artificielle

Les systèmes experts : tache de diagnostic, de surveillance ou de dépannage d’installations industrielles.

Robotique et FAO (fabrication assistée par ordinateur) : introduction de robots qui acquièrent l’information à l’aide de capteurs ou de caméras afin de se mouvoir dans des environnements diversifiés.

Compréhension du langage et traduction automatique : apparition d’interfaces en langage naturel.

Reconnaissance des formes : reconnaissance de la parole, de l’image et de l’écriture) IBM utilise une interface auditive qui reconnait 20 000 mots anglais tirés du vocabulaire des affaires et qui écrit à l’écran.

Apprentissage : créer des programmes qui génèrent leurs propres connaissances en se modifiant à partir de leurs succès et leurs erreurs.

Domaines de recherche en intelligence artificielle

Apprentissage-machine

Ce processus donne à un agent la capacité d’effectuer des taches qui ne pouvaient pas l’être auparavant ou d’effectuer de façon plus efficace les taches desquelles il s’acquittait déjà.

Les systèmes d’apprentissage analytiques ont pour but d’analyser et de mettre sous une forme plus efficace ou opérationnelle les connaissances déjà existantes. Les systèmes d’apprentissage synthétiques ont pour but de découvrir des connaissances fondamentalement nouvelles.

Réalité virtuelle

Ce domaine propose de nouvelles formes d’interaction entre l’homme et la machine. L’arrivée d’ordinateurs plus puissants, dotés d’impressionnantes capacités graphiques en trois dimensions, couplés à des périphériques de visualisation et d’interaction permet de fournir les informations sensorielles nécessaires pour convaincre des utilisateurs qu’ils sont en immersion.

Reconnaissance des formes

Les recherches dans ce domaine visent à automatiser le discernement de situations typiques sur le plan de la perception. Ses méthodes trouvent des applications nombreuses. Citons la vision, la reconnaissance de la parole, la lecture optique de documents et la synthèse d’images.

Vie artificielle

Ce domaine s’intéresse à l’étude des écosystèmes et à la reproduction, par des systèmes artificiels, de caractéristiques propres aux systèmes vivants.

Robotique

Sous domaine important de l’intelligence artificielle, la robotique peut être vue comme une interconnexion intelligente de la perception, de l’action, ainsi que du fonctionnement des robots.

Utilisé pour maintenir des représentations dynamiques de leur environnement, elle permet aux robots de se munir de capacités de sentir, de se déplacer, de raisonner et éventuellement de communiquer en langage naturel.

Indexation multimédia

Les ressources multimédia de l’on retrouve aujourd’hui sur le web sont à la fois nombreuses, volumineuses et parfois non pertinentes. Aussi l’intelligence artificielle propose-t-elle des outils pour la fouille de base de données (data mining) afin d’en extraire des connaissances synthétiques ou d’y découvrir des informations cachées, de diagnostiquer des situations, ou d’aider à superviser la conduite de systèmes.

Applications de l’intelligence artificielle

• Diagnostic médical, thérapie, surveillance d’appareils.
• Synthèse d’images, vision par ordinateur.
• Classifications naturelles (biologie, minéralogie, …).
• Planification des taches (prédictions financières, …).
• Architecture (conception assistée par ordinateur).
• Détection de pannes (Sherlock pour les avions F16).
• Education (systèmes tutoriels intelligents, e-Learning).
• Génie (vérification de règles de design).
• Prospection géologique (gisements miniers).
• Centrales nucléaires, feux de forêts (systèmes à temps réel).
• Simulateurs de vols (CAE, Bombardier, …).
• Jeux vidéo.

Télécharger le cours N°1 : Introduction à l’intelligence artificielle

Télécharger le cours N°2 : Introduction à l’intelligence artificielle

Voir aussi :

The post Introduction à l’intelligence artificielle – Cours – Informatique first appeared on F2School.

L’article Introduction à l’intelligence artificielle – Cours – Informatique est apparu en premier sur F2School.

Intelligence Artificielle – Cours

Intelligence Artificielle est l’application de logiciels et de techniques de programmation mettant en lumière les principes de l’intelligence en général, et de la pensée humaine en particulier.

L’intelligence artificielle peut être définie comme la tentative d’obtenir des machines comme celles qu’on voit dans les films.

Quelques objectifs de l’Intelligence Artificielle

• réagir avec discernement à des situations nouvelles,

• tirer profit de circonstances fortuites,

• discerner le sens de messages ambigus ou contradictoires,

• juger de l’importance relative de différents éléments d’une situation,

• trouver des similitudes entre des situations malgré leurs différences,

• établir des distinctions entre des situations malgré leurs similitudes,

• synthétiser de nouveaux concepts malgré leurs différences,

• trouver de nouvelles idées,

Définition des Systèmes formels

Un système formel est « un ensemble de données purement abstrait, sans lien avec l’extérieur, qui décrit les règles de manipulation d’un ensemble de symboles traités de façon uniquement syntaxique, c’est-à-dire sans considération de sens (sémantique).

Il est constitué :

1°/ d’un alphabet fini de symboles ;

2°/ d’un procédé de construction des mots du système formel ;

3°/ d’un ensemble d’axiomes qui sont des mots ;

4°/ d’un ensemble fini de règles de déduction qui permettent de déduire d’un ensemble fini de mots un autre ensemble de mots.

Systèmes formels – La Bibliothèque de Babel

La Bibliothèque de Babel est une sphère dont le centre véritable est un hexagone quelconque, et dont la circonférence est inaccessible /…/. Il n’y a pas, dans la vaste Bibliothèque, deux livres identiques. De ces prémisses incontournables, il déduisit que la Bibliothèque est totale, et que ses étagères consignent toutes les combinaisons possibles des vingt et quelques symboles orthographiques (nombre, quoique très vaste, non infini), c’est-à-dire tout ce qu’il est possible d’exprimer, dans toutes les langues. Tout : l’histoire minutieuse de l’avenir, les autobiographies des archanges, le catalogue de la Bibliothèque, des milliers et des milliers de catalogues mensongers, la démonstration de la fausseté de ces catalogues, la démonstration de la fausseté du catalogue véritable /…/. »

Systèmes Experts

Les systèmes experts ont pour but de modéliser puis de simuler, dans un logiciel, le savoir – ou le “savoir-faire” – d’un expert humain dans un domaine donné.

Leur champ d’application est vaste : ils permettront par exemple d’aborder des problèmes pour lesquels :

•il n’existe pas de solution algorithmique connue, possible ou souhaitable,

•les connaissances mises en œuvre sont de nature intuitive,

•les connaissances mises en œuvre ne sont pas consignées explicitement par écrit,

•il existe de nettes différences de performance entre un individu moyen et un expert,

•les connaissances mises en œuvre sont de nature qualitative plutôt que quantitative,

•les connaissances mises en œuvre sont en évolution rapide et constante,

•la résolution implique des coûts élevés,

•la résolution se fait dans des conditions difficiles, voire stressantes,

•les données sont imprécises, voire incomplètes, …

Les composantes des systèmes Experts

• La base de faits
• La base de règles
• Les métarègles et la métaconnaissance
• La représentation des connaissances incertaines

Plan du cours de l’Intelligence Artificielle

• Champ de l’IA
• Historique
• Systèmes Formels
• Langage Prolog
• Systèmes Experts
• Constraints Satisfaction Problems

Voir aussi :

Partagez au maximum pour que tout le monde puisse en profiter

The post Intelligence Artificielle – Cours – Informatique first appeared on F2School.

L’article Intelligence Artificielle – Cours – Informatique est apparu en premier sur F2School.