Comment arrêter les robots devenus sauvages ? Le chercheur de Google, Laurent Orseau, propose désormais une sorte d’interrupteur d’urgence pour « l’intelligence artificielle » (IA) ; Cela devrait permettre aux gens d’éteindre les systèmes autonomes à tout moment s’ils deviennent incontrôlables. Ce n’est pas si simple, comme le montre l’article spécialisé compliqué d’Orseau. Les systèmes auto-apprenants qui s’adaptent à des environnements complexes peuvent, en principe, également apprendre à éviter de s’arrêter. Le physicien Stephen Hawking et l’entrepreneur Elon Musk ont récemment alerté sur les dangers de l’IA pour l’humanité. Vous n’êtes pas obligé de penser immédiatement à des scénarios de science-fiction, tels que des robots maléfiques qui tuent leurs propres développeurs pour conquérir le monde.
Une supervision humaine est nécessaire pour intervenir si nécessaire.
Il suffit d’imaginer les dangers des voitures autonomes. Et en fait, des personnes sont déjà mortes à cause de robots industriels incontrôlables. On trouve désormais des interrupteurs d’urgence dans de nombreux domaines, des trains aux usines, et pour de bonnes raisons. Aucune technologie ne fonctionne toujours parfaitement ; une supervision humaine est toujours nécessaire pour intervenir en cas d’urgence. Jusqu’à présent, on pensait que les gens pouvaient mieux évaluer une situation qu’une machine en cas de doute. Cependant, cela ne doit pas nécessairement rester ainsi. Les systèmes d’IA pourraient un jour mieux savoir quoi faire dans un cas donné – et ce pourrait alors être une erreur si les humains les désactivaient. Néanmoins, il y a beaucoup à dire sur un bouton d’urgence. Parce que seules les personnes peuvent assumer la responsabilité de leurs actes. C’est pourquoi ils doivent également pouvoir désactiver « l’intelligence artificielle » à tout moment, même si cela s’avère finalement être une mauvaise décision. Qu’est-ce que tu en penses? S’il vous plait, écrivez moi
