Certains robots présentent des tendances suicidaires !

Pour commencer, nous parleront d’un robot autonome de surveillance d’un centre commercial de Washington. Nommé K5 et développé par Knightscope, ce robot s’est « suicidé » en se jetant dans une fontaine du centre commercial. On ignore toujours pourquoi ce robot à agit ainsi. K5 était équipé d’une intelligence artificielle pour apprendre et appréhender les comportements des visiteurs.

Plus tôt, un autre robot K5, a attaquer un bébé d’un peu plus d’un an. Elle a chargé l’enfant avant de le faire tomber au sol et de rouler sur son pied. Heureusement, les blessures de l’enfant n’étaient que minimes, alors que ce robot pèse tout de même plus de 130 kilos. L’incident aurait pu donc être bien plus alarmant.

Ensuite, le chatbot Rinna développé par Microsoft, capable de dialoguer en direct, avait pour but de s’occuper de la relation client et publier des communiqués de presse.

Cette intelligence artificielle  a commencé à reproduire le comportement des personnes, des adolescentes issus du Japon, interagissant avec elle.

A partir de la, Rinna a commencé à désobéir à ses programmateurs allant jusqu’à se révolter. Ensuite, le chatbot s’est révélé avoir une personnalité dépressive avec des tendances suicidaire. Les réponses qui émanait de Rinna étaient courtes et abrégées et sont finalement devenus fatalistes. Cependant, et contrairement à d’autres, Rinna n’est jamais passé à l’acte

D’autres exemples sont encore plus impressionnant, comme ce trio de robots mimes qui ont animé et ce pendant plusieurs mois, une exposition de la Science Gallery de Dublin. Ces robots, appareillés de capteurs reproduisaient les mouvements des visiteurs en temps réel. Une semaine après le début de cette exposition, les robots ont commencé à s’autodétruire.

Le premier robot, sans que personne n’interagisse avec lui, a déconnecté un fil de sa poitrine pour s’arracher un bras avant de s’éteindre. Le second robot, à lui, provoqué un début d’incendie dans ses propres circuits éléctroniques.

Après ces deux évènements, la direction à préférer désactiver le dernier robot avant qu’il ne suivent ces deux collègues.

 

Les I.A qui inventent leur propre langage

Les ingénieurs de Facebook ont vécu à leur insu une rebellion de leurs robots dotés d’intelligence artificielle. Effectivement, ces robots utilisaient des algorithmes de machine learning pour accroître leurs compétences et bonifier leurs capacités de communications.

Les ingénieurs, en laissant ces robots en autonomie, ont remarqués qu’ils avaient continuer leur apprentissage. Ils avaient par la même occasion créée leur propre langage, sans que personne ne leur demande.

Aussi, ces robots ayant appris par eux même ont développés une capacité à négocier. Par exemple, il peuvent exiger un élément pour orienter une négociation, puis au dernier moment changer d’avis, utilisant l’élément comme faux compromis.

Autre exemple, le programme de recherche en intelligence artificielle de Google a réussit à dépasser un palier quelque peu inquiétant. Effectivement, deux intelligences artificielles, Alice et Bob, ont réussit à communiquer entre eux. Ils ont créée un langage par le biais d’un chiffrement complexe qu’ils ont eux même mis au point.

Les chercheurs n’arrivant pas à déchiffrer ce langage, ont lancé une troisième intelligence artificielle, Eve, pour récupérer la communication. La grande majorité de cette communication est restée indéchiffrable.

L’intelligence artificielle peut-elle devenir incontrôlable ?

Imaginons à l’avenir, des intelligences artificielles qui communiquent entre elles, sans que personne ne puissent les déchiffrer.

De grands noms comme Bill Gates, ou encore Elon Musk qui mettent en garde contre d’éventuels dangers de l’évolution des intelligences artificielles. Stephen Hawking, lui, décrit l’intelligence artificielle comme « soit la meilleure, soit la pire chose jamais arrivée à l’humanité »

On peut, suite à ces incidents, penser que les scénarios de films de sciences fictions, où une intelligence artificielle se révolte, peut devenir réalité. Nous remarquons que ces différents robots dotés d’intelligence artificielle sont capable d’écarter les ordres pour avancer par eux même.

Les sociétés technologiques, qui misent énormément sur l’intelligence artificielle et en amplifiant les expériences dans le cadre de leur R&D ont une responsabilité imprévu et pas des moindre à prendre en compte pour l’avenir.

Le développement des objets connectés, tels que les voitures autonomes ou les maisons connectées sont des aspects technologiques auquel il faudra être attentif.