Incidents associés
En m'appuyant sur Google/Google Books/Google Scholar/Libgen/LessWrong/Hacker News/Twitter, j'ai compilé un grand nombre de variantes de l'histoire à partir de diverses sources ; ci-dessous, dans l'ordre chronologique inverse par décennie.
Une chose similaire s'est produite ici aux États-Unis dans l'un de nos instituts de recherche. Là où un perceptron avait été formé pour faire la distinction – c'était à des fins militaires – Il pouvait… il regardait une scène de forêt dans laquelle il y avait des chars camouflés sur une image et aucun char camouflé sur l'autre. Et le perceptron - après un peu d'entraînement - a... fait une distinction correcte à 100% entre ces deux séries de photographies différentes. Puis ils furent gênés quelques heures plus tard de découvrir que les deux pellicules avaient été développées différemment. Et donc ces images étaient juste un peu plus sombres que toutes ces images et le perceptron mesurait juste la quantité totale de lumière dans la scène. Mais c'était très intelligent de la part du perceptron de trouver un moyen de faire la distinction.
Comme si j'avais un ami en Italie qui avait un perceptron qui regardait un visuel… il avait des entrées visuelles. Alors, il… il avait des partitions de musique écrites par Bach de chorals et il avait des partitions de chorals écrites par des étudiants en musique au conservatoire local. Et il avait un perceptron - une grosse machine - qui regardait ceux-ci et ceux-là et essayait de les distinguer. Et il a su l'entraîner à faire la distinction entre les chefs-d'œuvre de Bach et les assez bons chorals des élèves du conservatoire. Eh bien, alors, il nous a montré ces données et je les ai parcourues et ce que j'ai découvert, c'est que dans le coin inférieur gauche de chaque page, l'un des ensembles de données avait des notes entières simples. Et je pense que ceux des étudiants avaient généralement quatre noires. Si bien qu'en fait, il était possible de distinguer ces deux classes de… de morceaux de musique rien qu'en regardant le coin inférieur gauche… inférieur droit de la page. Alors, j'ai dit ça au… à notre ami scientifique et il a parcouru les données et il a dit : « Vous avez bien deviné. C'est… c'est comme ça que ça s'est passé pour faire cette distinction. Nous avons pensé que c'était très drôle.
Maintenant, lorsque ce genre de chose se produit, les laboratoires de recherche ont tendance à se diviser en fonction de l'âge. Les jeunes cheveux disent « Génial ! Nous sommes en lice pour le prix Nobel ! et les vieilles têtes disent "Quelque chose ne va pas". Malheureusement, les anciens chefs ont généralement raison, comme ils l'étaient dans ce cas. Ce qui s'était passé, c'est que les photographies contenant des chars avaient été prises le matin alors que l'armée jouait avec des chars sur le champ de tir. Après le déjeuner, le photographe était revenu et avait pris des photos sous les mêmes angles de la plage vide. Ainsi, le net avait identifié la caractéristique unique la plus fiable qui lui permettait de classer les deux ensembles de photos, à savoir l'angle des ombres. "AM = réservoir, PM = pas de réservoir". C'était un moyen extrêmement efficace de classer les deux ensembles de photographies dans l'ensemble d'apprentissage. Ce qu'il n'était certainement pas, c'était un programme qui reconnaît les chars. Le grand avantage des réseaux de neurones est qu'ils trouvent leurs propres critères de classification. Le grand problème est que ce n'est peut-être pas celui que vous voulez !
L'histoire va quelque chose comme ça. Une équipe de recherche entraînait un réseau de neurones pour reconnaître les images contenant des réservoirs. (Je vous laisse deviner pourquoi il s'agissait de réservoirs et non de tasses à thé.) Pour ce faire, ils lui ont montré deux ensembles de photographies d'entraînement. Une série d'images contenait au moins un réservoir quelque part dans la scène, l'autre série ne contenait aucun réservoir. Le réseau a dû être formé pour faire la distinction entre les deux ensembles de photographies. Finalement, après tout ce truc de rétro-propagation, il a correctement donné la sortie "tank" quand il y avait un tank dans l'image et "no tank" quand il n'y en avait pas. Même si, disons, seule une petite partie de l'arme sortait de derrière une dune de sable, elle indiquait "tank". Ensuite, ils ont présenté une image où aucune partie du réservoir n'était visible - il était en fait complètement caché derrière une dune de sable - et le programme disait « réservoir ».
On ne sait pas encore comment un réseau de neurones artificiels pourrait être formé pour faire face au « monde » ou à tout ensemble de problèmes vraiment ouverts. Maintenant, certains lecteurs peuvent penser que cette imprévisibilité n'est pas un problème. Après tout, nous parlons d'entraînement et non de programmation et nous nous attendons à ce qu'un réseau de neurones se comporte plutôt comme un cerveau que comme un ordinateur. Compte tenu de l'utilité des réseaux dans l'apprentissage non supervisé, il peut sembler que nous n'avons pas vraiment besoin de nous soucier de la taille gérable du problème et de la prévisibilité du processus de formation. Ce n'est pas le cas; nous avons vraiment besoin d'un problème gérable et bien défini pour que le processus de formation fonctionne. Un célèbre mythe urbain de l'IA peut aider à clarifier cela.
Ces faits réfutent un argument néoplatonicien pour l'immatérialité essentielle de l'âme, à savoir. que puisque l'esprit traite de représentations universelles, il opère de manière spécifiquement immatérielle… Ainsi, la conscience ne s'explique pas par le connexionnisme. Les résultats de l'apprentissage des réseaux neuronaux ne sont pas toujours ceux attendus. Une équipe avait l'intention de former des réseaux de neurones à re