Intelligence artificielle : qui est responsable ? (fr)

France >  France > Droit privé >  Responsabilités

Murielle Cahen, Avocat au barreau de Paris
Mai 2018

Woody Allen l’a dit : « L’intelligence artificielle se définit comme le contraire de la bêtise humaine ». Cette phrase, à moitié pleine d’ironie, cache en réalité un constat indéniable : celui d’une avancée exponentielle en la matière.
L’un des derniers exploits en date : l’intelligence artificielle créée par la société Deepmind (appartenant à Google), AlphaGo, ayant été capable de battre le multiple champion du monde de Go Lee Sedol en 2016, jeu de plateau pourtant réputé « impraticable » par une machine du fait des innombrables combinaisons possibles.

Si la technologie que constitue l’intelligence artificielle a toujours fait partie de la culture populaire (on a tous en tête l’image du robot HAL imaginé par Kubrick dans 2001), il est difficile néanmoins de dissocier la prouesse technique des risques qui s’en suivent.

Ainsi, si le débat autour de l’intelligence artificielle et plus précisément de la détermination du responsable (sur le plan civil comme pénal) dans le cadre d’un dommage causé par l’intelligence artificielle, ne fait pas encore consensus (I), il s’avère pourtant essentiel de trouver une solution à des litiges de plus en plus fréquents (II).

Les enjeux du débat sur la responsabilité

Il convient tout d’abord d’envisager une définition précise de l’intelligence artificielle, et de ses différentes déclinaisons (A), pour ensuite se pencher sur la façon la plus pragmatique de définir le responsable en cas de litige (B).

L’intelligence artificielle : qu’est ce que c’est ?

Naturellement il convient avant toute chose de définir, ou du moins de tenter d’apporter des éléments éclairants, quant à la définition de l’intelligence artificielle.

Le terme générique caractérise en effet « l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence ».

L’expression que l’on doit à John McCarthy, pionnier de l’intelligence artificielle, a également été définie par son compère Marvin Lee Minsky comme « la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains, car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique ».

Cette définition résonne tout particulièrement, en ce que la notion de temporalité y est parfaitement encadrée. « Pour l’instant » : le mot est lâché, et il sonne toujours plus vrai aujourd’hui puisque le progrès scientifique en la matière n’a jamais été aussi rapide et d’actualité.

Aujourd’hui, l’intelligence artificielle est en développement dans presque tous les secteurs, du système bancaire à la médecine et la justice prédictive, en passant évidemment par le monde du divertissement et de la robotique.

Le propre de l’intelligence artificielle, d’ailleurs, est d’emmagasiner de nombreuses connaissances et de constituer une base sur laquelle se fonder pour réaliser les tâches demandées, grâce à ses interactions avec l’environnement et son « expérience ».

« Tay », l’intelligence artificielle de Microsoft, est un « chatbot » qui fut lancée par l’entreprise sur le réseau Twitter et répondant parfaitement à cette définition en ce que sa mission consistait à discuter avec les internautes en s’inspirant du langage, du savoir et du comportement de ces derniers à son égard.

Pour autant, les concepteurs retirèrent du réseau le programme, après que celui-ci ait tenu des propos racistes et diffamatoires à l’encontre de la communauté, qui s’amusait à tester ses limites en faussant son apprentissage.

Ce cas, parmi tant d’autres, illustre les dérives liées à l’intelligence artificielle, et pose donc la question de savoir : qui est responsable [1] ?

Comment déterminer un responsable ?

Par définition, et comme l’affirment certains, « la responsabilité civile du fait d’un individu ou d’une chose est inhérente à l’action humaine […] ce droit est fondé sur la liberté de choix de l’individu. Seul l’individu est responsable de ses décisions conduisant aux actes et aux conséquences malencontreuses induites par la faillibilité humaine » .

Dès lors, la responsabilité du fait des choses place aujourd’hui l’objet sous la garde de celui qui en dispose par un pouvoir d’usage, de direction et de contrôle, et responsabilise donc ce dernier lorsque l’objet en question se trouve impliqué dans le fait dommageable.

Le problème d’une telle réflexion, c’est qu’elle s’applique parfaitement à toute sorte d’objets, mais pas vraiment à l’intelligence artificielle sur lequel, par définition, l’homme n’a pas (pleinement, du moins) les pouvoirs précités.

Si l’Homme conserve un pouvoir de décision sur l’objet, alors il en sera tenu pour responsable en cas de dommage. Mais l’intelligence artificielle, amenée à fonctionner de manière autodidacte, conserve donc naturellement cette part d’indétermination et d’imprévisibilité qui met en péril une telle responsabilisation de l’homme.

Ce raisonnement apparaît d’autant plus valable quand on considère qu’aujourd’hui, l’intelligence artificielle est très souvent (si ce n’est toujours) exploitée dans le but d’atteindre des objectifs « non réalisables » par l’Homme, grâce à la puissance de calcul de la machine.

Comme l’affirme très justement Stéphane Larrière : « Dès lors, l’homme laisse la main à l’intelligence artificielle dans l’exercice de ses facultés augmentées par ce complément cognitif : il se réalise alors une sorte de délégation conférée à la machine pour décider et faire à sa place ».

C’est bien cette « délégation », on le comprend, qui se trouve au cœur du débat concernant la détermination du responsable dans le cadre d’un fait dommageable.

Le régime qui semble le plus favorable en vertu d’un tel dilemme semble être celui de la responsabilité sans faute, celle du fait d’autrui, celle « permettant d’imputer les frais du dommage à celui qui était le mieux placé, avant le dommage, pour contracter l’assurance destinée à garantir le risque » .

Ceci étant, au vu de la multitude de fonctionnalités offertes pas les différentes intelligences artificielles, et de la multitude de cas possibles, cette détermination n’est pas des plus aisée.

Un débat de plus en plus fréquent

Si les accidents liés aux voitures autonomes sont fréquents ces derniers temps (A), ne sont pas à exclure les risques liés aux autres formes d’intelligences artificielles (B).

Le cas des voitures autonomes

La détermination d’une telle responsabilité est un débat que l’actualité place régulièrement sur le devant de la scène médiatique, et souvent pour le pire. C’est le secteur de l’automobile qui en fait les frais aujourd’hui.

En effet si les entreprises de transport, et plus généralement les constructeurs, s’empressent de développer leur propre modèle autonome à un rythme effréné, deux accidents auront marqué les esprits ces dernières semaines.

Le premier accident, survenu le 19 mars dernier en Arizona, concerne l’entreprise Uber. Suite à des tests sur la voie publique, l’un de ses modèles autonomes a percuté un piéton, décédé par la suite de ses blessures.

Le système de l’automobile mis en cause, n’ayant pas activé le système de freinage avant l’impact, a contraint la société de suspendre ses activités dans le domaine .

Pour autant, celle-ci soutient que l’automobiliste est à mettre en cause dans l’affaire.

Le deuxième accident récent concerne cette fois-ci Tesla et son modèle X, au volant de laquelle est décédé un conducteur 4 jours après le drame précédent.

Encore une fois, l’autopilote se trouve au cœur des débats, et si la famille de la victime accuse l’entreprise, celle-ci se dédouane de toute responsabilité en soulignant que la victime « n’avait pas les mains sur le guidon au moment de l’accident », et contre toute indication de la voiture l’invitant à prendre de telles mesures.

Ces affaires mettent en lumière tout l’enjeu de l’autonomie de l’intelligence artificielle face au pouvoir de contrôle du conducteur sur la chose, dans la détermination du responsable du fait dommageable.

Et si ces cas ne sont bien évidemment ni isolés, ni inédits (en 2016, Google comme Tesla accusaient déjà de telles « défaillances » - s’il en est, ayant conduit à des accidents), d’autres litiges pourraient rapidement voir le jour, notamment dans le cas où la voiture devrait « faire le choix », par exemple, de sauver un piéton ou son conducteur au moment d’un crash.

D’autres risques potentiels à envisager

Le cas des voitures autonome est particulièrement illustrant, mais il existe également d’autres cas de figure tout aussi problématiques.

Nous avons déjà cité l’exemple de « Tay », qui laisse penser que l’on pourrait voir un jour survenir un litige portant sur des propos dénigrants [2], voir du harcèlement [3] initié par de telles intelligences artificielles.

On pense également aux assistants personnels intelligents comme Siri, Alexa, ou encore Google Home, ces « agents logiciel qui peuvent effectuer des tâches ou des services pour un individu » .

Si ces technologies sont régulièrement sollicitées par leur propriétaire pour effectuer des actions simples (lancer une playlist, envoyer un message ou encore passer un appel), elles peuvent également être utilisées pour effectuer des recherches complexes, dont le degré d’importance de la réponse peut varier, et donc entraîner des conséquences plus ou moins graves en cas d’erreur.

Il est facile d’imaginer que, rapidement, ces agents intelligents pourront être utilisés dans des domaines qui laissent peu de place à l’erreur, comme le médical par exemple. Quid de la détermination du responsable, dans le cas où la machine apporterait un résultat erroné à un calcul qui, de toute façon, n’était pas réalisable par l’Homme, car trop complexe ?

On en revient à cette idée de délégation soulevée plus haut. Reste à savoir quels critères prédomineront en la matière, à mesure des avancées technologies, mais aussi, malheureusement, à mesure de la variété des accidents…

Pour lire l'article sur l'intelligence artificielle [4], dans une version plus adaptée au mobile cliquez