B Smart | Smart Tech | C’est Humain
Les machines contre l’intuition
Omniprésente dans nos vies professionnelles et personnelles, la technologie bénéficie parfois d’une confiance aveugle des individus
Nos contemporains nous réservent des surprises. Dans sa chronique, David Lacombled, président de La villa numeris, rappelle la mésaventure de cinq touristes asiatiques.
Voulant se rendre à Lourdes, en 2013, elles ont saisi le nom de la ville dans leur GPS qui les a envoyées à la chapelle Notre-Dame-de Lourde, dans un village breton, à 800 km de là. Cela aurait pu beaucoup plus mal finir pour trois américains qui, en 2018, ont terminé avec leur voiture au fond du lac Champlain, au nord-est des Etats-Unis, après avoir suivi scrupuleusement - aveuglément serait-on tenté de dire - l’application Waze. Il faut dire que le lac était gelé et les conditions météo particulièrement mauvaises.
Il aurait pourtant suffit de regarder la route pour voir que quelque chose ne tournait pas rond. C’est d’ailleurs ce qu’avait déclaré très sérieusement un porte-parole de Google, maison-mère de Waze. Mais voilà - «Houston, on a problème - l’être humain a accorder une confiance excessive dans la machine et parfois plus qu’en lui même ou dans les autres.»
C’est un biais cognitif bien connu, un biais dit d’automatisation qui nous conduit à accorder une trop grande confiance dans des systèmes informatisés d’aide à la décision. Soit que les messages ne sont pas bien décodés ou interprétés, soit que les individus renoncent à leur cerveau.
Les secteurs les plus sensibles (militaire, aviation, santé) font l’objet des plus grandes attentions car «de mauvaises décisions peuvent être mortelles». Le cockpit d’un avion est un ordinateur en soi avec des alarmes et des alertes qui s’allument en tout sens, avec un plan de vol, une aide à la navigation. «Des systèmes d’alarme qui vous mettent en demeure de prendre des décisions immédiatement.»
Cependant, «Les biais peuvent être atténués par la mise en scène.» Il suffirait de réduire l’affichage des notifications et de rappeler que ce sont des informations et non des commandes. Il faut aussi parfois revenir à l’essentiel : «Imaginez un instant que, pour le trajet que vous avez l’habitude de faire en voiture, toutes les aides à la conduite disparaissent (régulateurs de vitesse et trajectoire, signalisation) il y a des chances pour que vous regardiez un peu ce qui se passe et que vous ralentissiez».
«Les êtres peuvent reprendre le dessus sur le cours des choses et de leurs vies, par une nécessaire éducation, un dialogue» pour s’élever en quelque sorte et en veillant à «ne pas croire tout ce qu’on voit.»
:: Pour aller plus loin :
:: Smart Tech est le magazine dédié au monde de l’innovation et à la nouvelle société numérique animé par Delphine Sabattier
:: Retrouvez B Smart sur votre TV : Bouygues (canal 245), Free (canal 349) et Orange (canal 230)