Systèmes de conduite automatisés : une question de confiance !

J. B. Manchon explore cette problématique dans une thèse en sciences cognitives, préparée à l’Institut VEDECOM en partenariat avec l’Université Lumière-Lyon 2, et qu’il a soutenue le 17 décembre 2021. Ses résultats décrivent les toutes premières interactions entre les conducteurs et des systèmes automatisés, et ils confirment l’importance fondamentale de la confiance dans ces interactions, mais aussi dans l’acceptabilité de ces nouvelles technologies et donc, leur utilisation future.

Une confiance nécessaire à l’interaction homme/machine

Les niveaux intermédiaires d’automatisation impliquent une interaction accrue entre l’humain et la machine. La coopération homme/machine pendant la conduite automatisée culmine en effet lors de l’utilisation d’assistances de type « contrôle partagé », c’est-à-dire lorsque le conducteur et le système de conduite pilotent ensemble le véhicule. Le conducteur doit alors évaluer si la situation est adaptée à la délégation de sous-tâches de conduite au véhicule (par ex. la gestion de la vitesse ou de la position dans la voie), et activer ou désactiver ces assistances à la conduite. Il doit par ailleurs veiller à leur bon fonctionnement. 

La confiance liée à l’automatisation se compose elle-même d’une confiance initiale qui dépend de ce que les personnes savent de l’automate avant de l’utiliser, et d’une confiance dynamique qui évolue au cours de l’interaction avec l’automate, et qui dépend de ses performances et de ses fonctionnalités.

La confiance a priori

La confiance n’est pas strictement rationnelle et fiable, elle peut être influencée, aussi bien positivement que négativement, par des a priori ou encore des informations partielles ou erronées. Dans le cadre de l’automatisation, différents types de problèmes liés à une mauvaise utilisation d’une aide automatisée peuvent apparaître lorsque la confiance de l’humain dans l’automate ne correspond pas aux capacités réelles de ce dernier. Ainsi, lorsqu’une aide automatisée se révèle fiable dans un grand nombre de situations, il peut arriver que l’utilisateur développe un excès de confiance dans celle-ci.

À l’inverse, un manque de confiance de la part de l’utilisateur peut entraîner des conséquences sur son exploitation de l’automatisation : les fausses alarmes (faux positif) sont connues pour diminuer la tendance des opérateurs à utiliser une assistance automatisée, même si elle ne connaît aucun échec de détection (faux négatif). Si l’opérateur choisit de désactiver une aide automatisée pourtant fiable dans un grand nombre de situations, il se prive d’un moyen qui pourrait peut-être éviter des accidents dus à une erreur humaine.

Une enquête a d’abord été menée par J. B. Manchon sur un panel de 844 personnes afin de mieux comprendre la construction de la confiance dans ces innovations. Elle vise à rechercher les facteurs qui déterminent la confiance a priori des individus, avant toute utilisation d’un système de conduite automatisée. Cette étude a montré que certains éléments liés à la confiance dispositionnelle (par ex. l’âge, la personnalité et le niveau de diplôme) et à la confiance apprise initiale (par ex. l’attitude, les attentes et la tendance à déléguer des tâches) avaient un fort pouvoir de prédiction de cette confiance a priori.

Ainsi, les conducteurs plus âgés voient dans des systèmes de conduite automatisés une solution à la diminution possible de leurs compétences de conduite. Les traits de personnalité tels que la propension à déléguer des tâches ont aussi eu un effet positif sur la confiance dans les dispositifs automatisés, généralement corrélée positivement avec la confiance envers les autres humains. Les répondants qui se sentent en contrôle pendant la conduite manuelle montrent un niveau inférieur de confiance que les individus dont la nervosité et le stress sont plus élevés lors de la conduite manuelle.

La confiance à l’épreuve de l’expérience

Des expérimentations ont ensuite été réalisées par J. B. Manchon sur un simulateur de conduite statique pour comprendre la construction et l’évolution de la confiance au cours des premières interactions entre un conducteur et un système de conduite automatisée.

Ces études ont d’abord montré que la confiance des conducteurs augmente globalement au cours du temps, même si ce renforcement passe par des phases de doute. La confiance augmente pendant l’utilisation de la conduite automatisée, mais aussi dans l’intervalle entre deux séances de conduite. Cela semble indiquer que la représentation mentale que les conducteurs se font de la conduite automatisée évolue pendant et après l’interaction avec l’automatisation.

Deux groupes de participants ont été formés en fonction du score de confiance de ces derniers : un groupe de conducteurs « confiants » et un groupe de conducteurs « méfiants ». Les participants ont utilisé le système de conduite automatisée pendant un parcours d’environ trente minutes sur autoroute, durant lequel deux événements (un véhicule de chantier arrêté sur la voie de droite et un poids lourd lent à dépasser) sont survenus. On observe que les conducteurs méfiants à l’égard du système de conduite automatisée connaissent une forte augmentation de leur niveau de confiance lors de l’utilisation du système automatisé, mais leur niveau de confiance reste toujours en-deçà de celui des conducteurs initialement confiants. Ainsi, les conducteurs méfiants passent 43,4% de leur temps à surveiller la route, contre seulement 28,3% des conducteurs confiants.

La confiance initiale des conducteurs dans la conduite automatisée semble donc jouer un grand rôle dans leur acceptation de ces technologies et dans la façon dont leur confiance va évoluer lors des premières utilisations.

Les expérimentations montrent également que les situations rencontrées sur la route n’ont pas le même impact sur la confiance en fonction de l’ordre dans lequel elles apparaissaient. Ainsi, une situation critique a un impact négatif plus fort sur la confiance si elle apparaît après une situation mieux gérée par le système de conduite automatisée, alors que son impact négatif est moindre si elle survient en premier. En l’occurrence, les conducteurs qui avaient vécu la situation du poids lourd lent à dépasser en premier (plus stressante car impliquant un plus grand nombre de véhicules autour) ont connu une progression quasi-linéaire de leur niveau de confiance. En revanche, ceux qui avaient vécu la situation du véhicule de chantier arrêté (moins stressante) ont vu leur confiance augmenter rapidement, puis diminuer brutalement par la suite avant de retrouver un niveau plus élevé.

La cohérence des feedbacks affichés par la conduite automatisée a été manipulée afin de mieux cerner l’importance de la compréhension du conducteur sur la construction et l’évolution de sa confiance dans le temps. Lorsque les feedbacks ne sont pas cohérents avec les réactions de la conduite automatisée, les conducteurs semblent se fier en premier lieu à la performance de cette dernière, et leur niveau de confiance reflète cette performance. Ce sont les performances de l’automatisation qui auront le plus grand impact sur le développement de la confiance des conducteurs, bien que les feedbacks renvoyés par le véhicule participent également à sa bonne calibration.

Parce que les systèmes de conduite automatisée ne sont actuellement pas entièrement mis en œuvre, le niveau de confiance des conducteurs semble fortement influencé par leur représentation mentale d’une telle automatisation. Les connaissances préalables et les attentes des individus en amont de l’utilisation de tels automates sont déterminantes pour que cette confiance se développe. Tout ce qui peut contribuer à une meilleure connaissance de ces dispositifs est susceptible d'avoir une influence majeure sur le niveau de confiance.

D’autres études seront nécessaires pour mieux comprendre comment la confiance évolue sur de plus longues périodes, avec différents systèmes de conduite automatisée et dans d’autres conditions d’utilisation.