Politique
Et pourtant, elle roule (concept car robot Volvo)
C'est ballot ! Les primo-acquéreurs des voitures autonomes, conduites par un ordinateur, d'ici cinq à dix ans, se laisseront sûrement séduire par l'imparable argument sécurité. Oui, une voiture robot ne s'endort pas sur l'autoroute ni ne s'engage trop vite dans un échangeur. Elle tient sa ligne sans mordre sur celle des voisins, et conserve automatiquement la bonne distance de sécurité avec la voiture qui la précède sans se laisser surprendre par un bouchon. On peut même raisonnablement penser qu'une voiture robot sera plus adroite sur route mouillée enneigée ou verglacée, conduira comme en plein jour en cas de brouillard, et évitera les chauffards roulant à contre-sens sur l'autoroute. A tous les coups ? Justement, non, pas à tout les coups.
Reprenons. D'abord, les voitures robots devront franchir un obstacle majeur, celui de la fiabilité. Même un iPhone ou un Mac, réputés pour la robustesse de leur système d'exploitation (base Unix), plantent parfois. Même si c'est vraiment très rarement, c'est toujours trop souvent. Quand l'appareil photo de l'iPhone bloque ou fige de manière inexpliquée, cela ne prête pas à conséquence. Au pire, on rate la photo que l'on voulait prendre. Mais si une voiture robot n'accède brutalement plus à telle ou telle application vitale, et que le mode dégradé consiste à s'arrêter brutalement au milieu de la chaussée ou à refiler le volant au catastrophe à l'humain, on risque d'avoir quelques histoires croquignolesques à raconter quand les robots prendront le volant.
Mais ce n'est rien à côté de la suite, révélée par Patrick Lin, un scientifique spécialiste des sciences émergentes à l'université de Californie. Dans le média en ligne américain Wired, Le savant, qui dirige le département d'éthique de l'université, révèle que les algorithmes qui devraient être chargés dans les voitures robots pourraient en choquer plus d'un. Pas de robot, mais d'humain bien sûr. Pourquoi ? Parce qu'ils pourraient prendre des décisions parfaitement logiques, mais en même temps foncièrement inhumaines et injustes.
Des exemples ? Prenez une voiture robot, prise au piège au milieu d'un carambolage qu'elle ne pouvait ni prévenir ni anticiper. Quel sera son comportement ? En toute logique, elle ira percuter le véhicule identifié comme étant à la fois le plus gros et le plus récent. Exemple : une grosse berline mercedes haut de gamme dernier cri. Pourquoi ? Parce que son algorithme embarqué aura appris que ces voitures disposent des toutes dernières innovations en matière de sécurité actives et passives, aussi bien au bénéfice de ses passagers que des autres usagers de la route. Un choix logique, mais que le conducteur dudit véhicule, malheureusement estropié d'une jambe à la suite de l'accident malgré toutes les sécurités actives et passives, pourrait mal prendre. Aussi, pourquoi, lui qui aurait pu éviter d'être percuté, est-il devenu à son insu l'airbag de la voiture robot ?
Des cas comme celui-ci, on peut en imaginer d'autres, mais ce sont surtout tous les cas inconcevables qui défraieront la chronique, demain. Une voiture robot pourrait tout aussi bien choisir de vous planter tout droit dans la pile d'un pont (scénario fatal), car vous êtes seul à son bord, plutôt que de percuter un monospace avec cinq passagers à bord, au prétexte qu'il vaut mieux prendre un risque certain, celui de faire un mort, vous, que le risque probable de faire six morts ou au mieux blessés graves. L'équation, dans une puce de silicium, ne laisse pas la place au doute ! Mais un humain n'aurait pas eu le temps de faire ce choix, et aurait laissé le destin ou le hasard décider à sa place... Ou la chance.
Résultat, Patrick Lin recommande tout simplement de ne pas introduire ce genre de programmes d'optimisation dans les cerveaux électroniques des voitures robots. Mais alors, à quoi ça sert que le robot il se décarcasse ? Réponse dans dix ans, au mieux.
Reprenons. D'abord, les voitures robots devront franchir un obstacle majeur, celui de la fiabilité. Même un iPhone ou un Mac, réputés pour la robustesse de leur système d'exploitation (base Unix), plantent parfois. Même si c'est vraiment très rarement, c'est toujours trop souvent. Quand l'appareil photo de l'iPhone bloque ou fige de manière inexpliquée, cela ne prête pas à conséquence. Au pire, on rate la photo que l'on voulait prendre. Mais si une voiture robot n'accède brutalement plus à telle ou telle application vitale, et que le mode dégradé consiste à s'arrêter brutalement au milieu de la chaussée ou à refiler le volant au catastrophe à l'humain, on risque d'avoir quelques histoires croquignolesques à raconter quand les robots prendront le volant.
Mais ce n'est rien à côté de la suite, révélée par Patrick Lin, un scientifique spécialiste des sciences émergentes à l'université de Californie. Dans le média en ligne américain Wired, Le savant, qui dirige le département d'éthique de l'université, révèle que les algorithmes qui devraient être chargés dans les voitures robots pourraient en choquer plus d'un. Pas de robot, mais d'humain bien sûr. Pourquoi ? Parce qu'ils pourraient prendre des décisions parfaitement logiques, mais en même temps foncièrement inhumaines et injustes.
Des exemples ? Prenez une voiture robot, prise au piège au milieu d'un carambolage qu'elle ne pouvait ni prévenir ni anticiper. Quel sera son comportement ? En toute logique, elle ira percuter le véhicule identifié comme étant à la fois le plus gros et le plus récent. Exemple : une grosse berline mercedes haut de gamme dernier cri. Pourquoi ? Parce que son algorithme embarqué aura appris que ces voitures disposent des toutes dernières innovations en matière de sécurité actives et passives, aussi bien au bénéfice de ses passagers que des autres usagers de la route. Un choix logique, mais que le conducteur dudit véhicule, malheureusement estropié d'une jambe à la suite de l'accident malgré toutes les sécurités actives et passives, pourrait mal prendre. Aussi, pourquoi, lui qui aurait pu éviter d'être percuté, est-il devenu à son insu l'airbag de la voiture robot ?
Des cas comme celui-ci, on peut en imaginer d'autres, mais ce sont surtout tous les cas inconcevables qui défraieront la chronique, demain. Une voiture robot pourrait tout aussi bien choisir de vous planter tout droit dans la pile d'un pont (scénario fatal), car vous êtes seul à son bord, plutôt que de percuter un monospace avec cinq passagers à bord, au prétexte qu'il vaut mieux prendre un risque certain, celui de faire un mort, vous, que le risque probable de faire six morts ou au mieux blessés graves. L'équation, dans une puce de silicium, ne laisse pas la place au doute ! Mais un humain n'aurait pas eu le temps de faire ce choix, et aurait laissé le destin ou le hasard décider à sa place... Ou la chance.
Résultat, Patrick Lin recommande tout simplement de ne pas introduire ce genre de programmes d'optimisation dans les cerveaux électroniques des voitures robots. Mais alors, à quoi ça sert que le robot il se décarcasse ? Réponse dans dix ans, au mieux.