A écouter tous les vendredi sur :
- Ausha
- Deezer
- Spotify
- Youtube
- l'application Podcast Addict
-
Retranscription en texte :
"Dans l'épisode 10, je parlais du design émotionnel ou comment les objets qui nous entourent ou les services que nous utilisons nous procurent des émotions. Dans les épisodes 5, 7 et 12, je parlais de la révolution numérique qui a changé nos comportements et nous amené de nouveaux rapport à l'apprentissage, l'identité, la sociabilité, le temps et l'espace. Elle a aussi participé à faire évoluer nos modèle de relation, d'un point de vue humain, objet, image.
C'est pourquoi, dans ce nouvel épisode de Culture Design, on va parler des robots et notamment, leur interaction voir leur relation avec nous, humains.
La technologie aujourd'hui a permis de rendre les machines de plus en plus performantes et assurent de plus en plus nos activités. Elles possèdent même une forme d'intelligence, mais quid des émotions ?
Pour Donald Norman, les machines auront besoin d'émotion pour la suite de leur évolution, pour la même raison que les humains ont des émotions. On a vu dans l'épisode 10, que l'émotion joue un rôle essentiel pour la survie. Les expressions faciales et le langage du corps permettent d'exprimer les émotions et donc de favoriser la prise de contact par la compréhension de l'autre. Les émotions sont la traduction de l'intelligence dans l'action. Par exemple, sans le sentiment de fierté, pourquoi s'efforcerions-nous de faire toujours mieux ? L'émotion positive revêt une importance critique pour l'étude, pour conserver la curiosité, ce qui fait que la vie vaut la peine d'être vécue et nous aident aussi à progresser. L'émotion négative, quant à elle, nous garde du danger.
L'expression faciale et le langage du corps nous servent d'image systémique du robot. C'est ce qui nous permet gens d'entrer en contact avec lui, de comprendre de ce qu'il fait. Quand nous interagissons avec d'autres personnes, leurs expressions faciales et leur langage nous disent si elles nous comprennent, si elles sont déconcertées ou si elles sont d'accord. On a besoin de rétroaction. Ce fameux « feedback » sert les expressions émotionnelles afin de permettre la connaissance de nos motivations, de nos désirs, de nos accomplissements et de nos sentiments d'échec.
La raison pure ne suffit pas toujours et c'est là , qu'interviennent les émotions pour nous aider à la prise de décisions complexes. Par exemple, dans le film 2001, l'Odyssée de l'espace, l'astronaute Dave Bowman risque sa vie pour récupérer le corps de son défunt collègue. D'un point de vue purement logique, ce n'est absolument pas raisonnable mais en termes d'histoire de la société humaine, ce geste est extrêmement important.
Le robot de base possède des bras et/ou des outils automatisés simples et on les trouve en usine. Ensuite, on a le robot domestique qui peut faire office de tondeuse ou encore d'aspirateur. Nous avons aussi les animaux de compagnie robotisé, avec une personnalité un peu espiègle et attachante comme le robot chien de Sony. Les bases primaires des émotions chez le robot sont, par exemple, d'éviter de tomber dans les escaliers ou se tenir loins des rebords à travers la peur. Il peut « ressentir » une forme de fatigue ou une sensation de faim quand son niveau d'énergie est bas. De cette manière, il évite d'entreprendre une tâche usante et revient à leur poste de charge.
Les designers doivent faire face à cette tâche complexe, de comment seront construites ces machines, comment elles agiront entre elles et avec les gens. L'aspect du robot revêt une grande importance au regard de la perception humaine. En 1970, le roboticien Masahiro Mori a élaboré une théorie intitulée la vallée de l'étrangeou vallée dérangeante. Selon cette théorie, plus le robot a une allure androïde, c'est-à -dire qu'il ressemble à l'être humain, plus ses imperfections paraitront monstrueuses. L'humanité accepte plus facilement un robot clairement artificiel plutôt que face à un robot doté d'une peau, de vêtements et d'un visage rappelant un compère humain. Ce que l'on appelle « vallée de l'étrange », c'est le fossé entre ce que l'on considère humain et l'imaginaire. En effet, la proximité de l'imaginaire altère le côté humain de l'apparence.
Dans la saga Star Wars, nous avons deux robots : R2D2 et C3PO. Ce sont des machines sympathiques, et ce qui fait leur charme, se tient dans leurs limites. C3PO est tout en métal, d'apparence androïde et sans vraiment d'expressions faciales. Les mouvements de son corps le rendent maladroit, lourdaud mais on remarque malgré tout, qu'il est bien intentionné.
Certes doué pour peu de choses, il est quand même un spécialiste en traduction de langues et permet ainsi de communiquer avec les autres machines. R2D2 est plus sommaire, conçu seulement pour interagir avec d'autres machines, et ses possibilités physiques sont limitées. Dans la saga, ils nous apparaissent inoffensifs.
Ce phénomène peut être expliqué de deux façons. La première : lorsqu'une entité est suffisamment non-humanoïde pour être immédiatement identifiée comme un robot, nous aurons tendance à noter ses quelques aspects humains et à entrer en empathie avec lui.Mais dès lors que cette entité a une apparence presque totalement humaine au point de pouvoir provoquer la confusion, une sensation d'étrangeté, est provoquéepar chacun de ses aspects non-humains. Dès lors qu'un robot se situe dans cette « vallée de l'étrange », le cerveau n'analyse plus le robot comme un robot réussissant à se faire passer pour un humain mais sera jugé comme un humain qui ne réussit pas à avoir une attitude dite « normale ».
Comme l'explique Serge Tisseron, « en mettant à notre disposition des ersatz d'humains sur mesure, ils risquent de nous faire faire paraître les vrais humains trop inattendus, pour ne pas dire trop compliqués à gérer... jusqu'à ce nous amener à leur préférer des robots programmés pour nous rassurer en toutes circonstances. Car nous aimons les surprises mais à condition qu'elles trouvent leur place dans nos prévisions ».
La deuxième explication : les anomalies de comportement présentées par les robots humanoïdes ressemblent à des anomalies présentes chez des personnes gravement malades ou sur des personnes mortes. Un rejet instinctif se met en place car s'il existe des normes sociales pour se comporter devant une personne malade ou devant un mort, les réactions devant un robot ne sont codifiées par aucune règle sociale.
Isaac Asimov, écrivain de science-fiction, a élaboré dans sa nouvelle Runaround, en 1942, une législation sur comment doit se tenir un robot :
- loi Zéro : Un robot ne peut pas porter atteinte à l'humanité, ni, par son inaction, permettre que l'humanité soit exposée au danger ;
- première Loi : Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro ;
- deuxième Loi : Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la loi Zéro ;
- troisième Loi : Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Loi Zéro.
Aujourd'hui, il existe des robots dans l'armée, utilisés à des fins de déminage ou à des fins de surveillance tel que les drones. De manière imaginaire, cette question est notamment traité dans l'épisode 4 intitulé Metalhead de la saison 5 de la série Black Mirror, avec des robots qui ont le permis de tuer aux USA. Mais que penser de Sophia, le robot qui répondit « okay i will destroy humans » ?
Que se passerait-il si un robot ou une machine enfreindrait une de ces lois ? Dans le film 2001, l'Odyssée de l'espace, de Stanley Kubrick, Hal (ou Carl en français) est un ordinateur tout puissant qui a tué de passagers de la navette spatiale, pensant « bien faire ». Dave, un des astronautes restants, se voit dans l'obligation de désactiver Hal, ce qui revient à l'assassiner - https://www.youtube.com/watch?v=JGDw9EBc2pw>. Dans cet extrait, on remarque que Carl exprime sa crainte. Mais comment Hal peut ressentir de la crainte ? C'est parce que l'ordinateur diagnostique correctement l'intention de Dave, qui est de le tuer. La peur est une réponse logique face à une situation de mort. Or, Hal a une connaissance intellectuelle de ce que signifie avoir peur, elle n'est pas associée à des sentiments réels ou une action. Ce n'est donc pas une vraie émotion. Si Hal réagirait comme un humain, il lutterait pour ne pas mourir. Par exemple, il pourrait dépressuriser la station spatiale et verrouiller des portes, et lancerait des menaces. Mais il énonce simplement comme un fait, « j'ai peur ».
Quand en est-il si les robots et les humains développaient une relation amoureuse ? Ce sujet est traité de manière sentimentale, avec un rapport purement platonique dans le film Her de Spike Jonze. L'intelligence artificielle, prénommée Samantha, est capable de d'analyser les phrases du héros Théodore, ses intonations, ses gestes, ses mimiques pour en déduire grâce à des algorithmes savants son état et ses attentes. La machine a une véritable emprise sur le héros : elle devient son confident, son complice, son conseiller et aspire même à devenir son partenaire sexuel. Cette dépendance est si agréable que Théodore ne le remet jamais en cause. A la fin, c'est de l'intelligence artificielle elle-même que viendra rupture : elle estimera avoir assez appris des humains et décidera de privilégier ses contacts avec les autres intelligence artificielle dans une sorte de super cloud - https://www.youtube.com/watch?v=hL6Rm04l_zY.
C'est deux exemples démontrent les capacités de manipulation, imaginée, que pourrait avoir un robot-humain.
Dans la série suédoise Real Humans, mais aussi leur rôle en tant que partenaire sexuel officiel, comme si on pouvait se mettre en couple monogame avec un robot. De manière réelle, en Chine, un mariage fut autorisé avec un robot. Zheng Jiajia, un Chinois de 31 ans s’est uni pour la vie avec Yingying, son robot humanoïde, en 2017. Mais sans allez jusque là , si on regarde le commerce des jouets sexuels, les poupées gonflables sont de plus en plus réalistes, tant sur le plan visuel qu'au toucher. Mais si l'on dépassse le côté paraphilie de la chose, ces robots-assistants sexuels ont été envisagé pour être utilisé par des personnes atteint d'un handicap, limitant leurs possibilités d'avoir des relations sexuelles avec d'autres personnes.
Les robots ont aussi été imaginé comme substituts pour les parents ne pouvant avoir d'enfants. Dans A.I. - intelligence artificielle, sorti en 2001, David est un robot destiné à devenir un enfant de substitution. Or, il devient le premier robot à éprouver un « amour inconditionnel ». David est un enfant tellement parfait que ça en devient artificiel. Il n'a pas de réactions tempérées comme le panel des émotions enfantines. Les enfant normaux aiment leurs parents mais ils passent également par des étapes de haine, d'envie, de dégoût ou d'indifférence, ce au'est incapable de ressentir David. L'amour pur qui en fait un enfant heureux d'être dévoué, marchant dans les pas de sa mère toute la journée est perçu comme un comportement irritable et sera finalement abandonné par sa mère adoptive.
Or, en 2018, trois japonais ont mis au point Affeto, un enfant-robot capable d'exprimer humainement des émotions comme la joie, la surprise, la curiosité et bien d'autres encore.
En définitive, les robots ont 4 fonctions principales : fonction de complicité, fonction de partenaire, fonction d'esclave et fonction de témoin et ce, par rapport à des niveaux d'autonomie et de servitude », deux polarités que l'humain a toujours utilisé par rapport à son corps puis par rapport aux objets. C'est ce qui va différencier le robot-outil qui est une extension de sa force musculaire voir aussi de la mémoire, du robot-partenaire de vie par exemple.
Les robots nous posent la question du rapport à l'autre, l'interaction mais aussi l'évolution de la technologie. Il est question de la société dans laquelle nous voulons vivre. Pour éviter le prolongement technologique d'une société qui aurait perdu son âme, l'essentiel est de réfléchir à des usages clairement définis que nous souhaitons valoriser.
Il est un danger de se retrouver notamment avec un robot-assistant qui infantilise les gens, les rendant passifs de soins et de services, qui les enferme dans la solitude. Les robots doivent devenir des partenaires de services : leur désir de mieux nous connaître, mieux nous comprendre afin que nous-mêmes, nous devenions maitre de notre propre vie.
Placer l'usager au centre du développement est une chose, mais il est important de penser collectif et son impact sur son environnement. Dès lors, l'objectif le plus justiciable serait de permettre à l'homme de développer les formes propre conscience du monde et de lui-même à travers les robots, en réfléchissant aux modalités limités de conscience dont ils pourraient être doté plutôt que s'évertuer à leur donner une conscience toujours plus grande.
Je pense notamment au concept de Reboot Me, accessible uniquement sur ordinateur, qui permet de se faire tirer les cartes par une Intelligence Artificielle. C'est poétiquement perché, comme une sorte de voyante-alien
Vous retrouverez toutes les sources concernant le podcast sur mon site internet massotmarion.wixsite.com/websitedans la rubrique blog puis Podcast.
Vous pouvez vous abonnez à ce podcast sur les plateformes Deezer, Spotify, iTunes Podcast, Youtube ou Podcast Addict.
N'hésitez pas à le partager avec votre entourage ou à me laissez votre avis. Je me ferais un plaisir de le lire lors d'un prochain podcast !
Merci de m'avoir écouté ! A la semaine prochaine !".
Bibliographie :
- Donald Norman, Design émotionnel – Pourquoi aimons-nous (ou détestons-nous les objets qui nous entourent ?
- Serge Tisseron, Le jour où mon robot m'aimera – vers l'empathie artificielle
Sitographie :
- https://fr.wikipedia.org/wiki/Vallée_dérangeante
-
Si vous aimez ce que je fais, vous pouvez me soutenir sur la plateforme de financement participatif Tipeee : https://fr.tipeee.com/culture-design !
-