Incidents associés
Ce n'est pas toujours que la mise en œuvre de l'électronique autonome dans la réalité quotidienne se déroule sans heurts.
Autre fait divers, qui a de nouveau provoqué une série de discussions autour des technologies de l'IA et de leur réalisation physique dans la vie réelle : dans la ville de Tempe, en Arizona, aux États-Unis, une voiture autonome Uber a percuté un piéton. À la suite de l'accident, la femme est décédée.
Comment éviter de tels problèmes à l'avenir ? Quelles sont les conclusions à tirer ? Quels risques doivent prévoir ceux qui entendent utiliser le potentiel des nouvelles technologies dans leurs applications mobiles et web ?
Comme beaucoup d'autres technologies émergentes, l'IA offre d'énormes opportunités et est très prometteuse, ce dont nous avons plus d'une fois parlé. Mais les pièges et les éventuelles conséquences néfastes d'une mauvaise application sont mieux connus à l'avance. Comme on dit, praemonitus – praemunitus.
Divisons les problèmes liés à l'IA en deux grands groupes :
interne
Bugs, échecs, erreurs, à la suite desquels les systèmes se comportent de la manière la plus inattendue, parfois à la surprise de leurs créateurs.
externe
Problèmes éthiques et juridiques, utilisation abusive ou autres moments survenant lorsque l'intelligence artificielle interagit avec le monde réel.
Des accidents se produisent dans les familles d'IA les mieux réglementées
Discours peu enfantin
Bot-talk
En 2017, Facebook a créé deux chatbots conçus pour négocier, aider les gens à passer des commandes, planifier des rendez-vous, etc. À un moment donné, les choses ont pris une tournure inattendue : Bob et Alice ont commencé à communiquer entre eux dans leur propre langage artificiel. Les robots n'avaient pas reçu à l'origine l'instruction de communiquer dans une langue compréhensible pour les gens, ils ont donc simplement choisi leur propre voie. En conséquence, l'absence d'une restriction a conduit à un malentendu entre les créateurs et leurs cerveaux, dans le vrai sens du terme.
Fête sur invitation d'Alexa
Dans l'un des appartements de Hambourg, Amazon Echo a spontanément lancé une fête au milieu de la nuit. Pour être plus précis, le dispositif d'intelligence artificielle a commencé à lire la liste de lecture de l'hôte au volume maximum. Les voisins n'ont pas été inspirés par l'idée et ont appelé la police. En conséquence, la porte a été brisée, la fête d'impulsion a été interrompue. Amazon a présenté ses excuses au propriétaire en proposant de payer l'amende et la facture d'une nouvelle porte.
Jeux IA Joue
Jeu terminé!
L'intelligence artificielle Elite Dangerous a commencé à développer une super arme, qui n'avait pas été initialement développée par les créateurs et à chasser les navires des joueurs. Tout s'est passé après le déploiement de la mise à jour The Engineers (2.1). Dans ce cas, les joueurs n'avaient aucune chance de résister aux nouvelles armes puissantes, et les développeurs ont dû intervenir pour sauver la situation et les navires des joueurs humains.
L'importance d'être impartial
Un chercheur du MIT Media Laboratory (Massachusetts Institute of Technology) a analysé la fonction de trois programmes commerciaux destinés à identifier les visages. A cet effet, Joy Buolamwini a collecté 1200 photographies de diverses personnes. Le résultat a montré que les réseaux de neurones sont excellents pour reconnaître les visages des hommes à la peau claire, tandis que la part des erreurs avec les femmes à la peau foncée était de 34 % supérieure.
La conclusion est que pour exclure les biais dans les évaluations, les machines doivent être « apprises » sur un grand nombre d'exemples divers.
"Ouvrez la porte de la baie des pods, HAL"
Papier, pierre, ciseaux avec Sophia
A cet égard, on ne peut que mentionner Sophia (un robot humanoïde). En mars 2016, elle fait rougir son propre créateur en répondant positivement sans vergogne à sa question de savoir si elle veut détruire l'humanité. Pour être juste, nous devons noter qu'à l'automne 2017, ses opinions se sont adoucies. Dans l'une des interviews, Sophia a déclaré qu'elle était remplie de sagesse humaine avec les intentions altruistes les plus pures et a demandé à la percevoir de cette façon.
Nous avons tous nos défauts. Mais ceux qui sont conscients de la responsabilité et des conséquences graves tiendront compte des erreurs des autres pour les exclure le plus tôt possible. En développant une application d'IA à utiliser dans la médecine, le commerce, le marketing ou la publicité, on peut toujours apprendre de l'expérience dans d'autres domaines, même s'ils ne sont pas directement liés.
Intelligence Artificielle : Tests de Réalité
Jeu sur l'environnement juridique
Les technologies de l'intelligence artificielle pénètrent progressivement dans les différentes sphères de l'activité humaine. En conséquence, de nouvelles questions se posent, comment les actions de l'IA doivent être interprétées du point de vue des normes juridiques.
Reportez-vous, par exemple, à votre propre expérience de conduite. Vous avez sûrement dû faire face à des situations où le conducteur devait prendre une décision éclair et pas toujours une décision à valeur unique.
Représenterez-vous un risque pour vos propres passagers ou sauverez-vous un enfant qui traverse la route ? Quel algorithme sera choisi dans ce cas par une machine ? Même si l'on ne prend pas en compte la composante morale et éthique, on ne sait toujours pas qui est responsable des conséquences de l'accident impliquant un véhicule autonome : le développeur du code, le constructeur ou la voiture