Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017

Intelligence artificielle : opportunités et risques
juridiques associés
Michaël Zadworny et Louis Lantonnois - Avocats
NAUTADUTILH
31-03-2017
L'Interface vous donne rendez-vous chaque mois au LIEGE science park, pour faire le point,
avec un conseiller en innovation, sur une mesure en lien avec vos préoccupations.
Une initiative de

International Law Firm | Amsterdam · Brussels · London · Luxembourg · New York · Rotterdam
IA: opportunités et risques juridiques
associés
Michaël Zadworny & Louis Lantonnois

Les points présentés aujourd’hui
- Définition & Evolution
- Challenges légaux
- Questions éthiques
- Opportunités
3

Définition & Evolution
- Intelligence artificielle (“IA”): “La recherche de moyens
susceptibles de doter les systèmes informatiques de capacités
intellectuelles comparables à celle des humains” (Dictionnaire
du Centre National de Ressources Textuelles et Lexicales du
CNRS).
4

- Robot (1920, du tchécoslovaque Robota, signifiant travail,
esclave): “Une machine intelligente capable de prendre des
décisions de manière libre, interagissant avec son
environnement, dotée de mobilité, agissant en coopération
avec les hommes et dotée d’une capacité d’apprentissage.”
(Jérémy Bensoussan et Alain Bensoussan, Droit des robots,
Larcier, 2017)
Karel Čapek 5

- Test de Turing (Imitation Game): ce test est réussi lorsque,
dans plus de 30% des cas, l’opérateur humain chargé de poser
des questions à des interlocuteurs ne se trouvant pas dans son
champ de vision n’est pas en mesure de distinguer, au regard
des réponses qui lui sont données, l’humain de la machine.
(A.M. Turing 1950, “Computing machinery and intelligence”,
Mind, 49: pp. 433-460)
Alan Turing 6

- 1950: établissement du test de Turing.
- 1973: création de Wabot-1, premier robot humanoïde à marche
bipède (Université Waseda, Japon).
7

- 1997: Deep Blue (IBM) l’emporte face à Garry Kasparov aux
échecs (10120 parties différentes possibles).
8

- 2000: création de Advanced Step In MObility de Honda
Robotics.
9

- 2006: création de Nao par Aldebaran Robotics.
10

- 2011: le programme d’IA Watson (IBM) remporte un jeu
télévisé de questions-réponses en langage naturel.
- 2012: l’algorithme Deep Learning (Google) reconnaît des chats
parmi 10 millions d’images (se basant sur des vidéos postées
sur Youtube).
11

- 2014: le programme d’IA Eugène Gootsman réussit le test de
Turing en parvenant à convaincre 33% des juges qu’il est un
être humain sur une conversation de 5 minutes mais… ce bot
conversationnel a été présenté au jury comme un enfant de 13
ans dont l’anglais n’est pas la langue maternelle…
- 2016: l’algorithme Deep Mind (Google) l’emporte face à Lee
Sedol au jeu de Go (10600 parties différentes possibles).
12

Challenges légaux - Législation
- L’approche légaliste / téléologique: est-ce que les lois actuelles
couvrent l’IA et les robots? Peut-on étendre la personnalité
juridique aux robots?
“Vs.”
- L’approche technologique / anthropologique: est-ce que l’IA et
les robots génèrent des problèmes qui méritent d’être réglés
par des lois? Faisons un test de Turing afin de déterminer si la
personnalité juridique doit être octroyée à un robot.
13

- La résolution du Parlement européen du 16 février 2017
contenant des recommandations à la Commission concernant
des règles de droit civil sur la robotique (2015/2103(INL)) est
un mix entre les deux approches et se base sur les lois d’Isaac
Asimov.
- Cette résolution ne contient pas beaucoup d’informations
pertinentes et est peu claire quant à certains aspects. Ainsi, par
exemple, elle indique qu’il convient de ne pas imputer sur les
humains la responsabilité des actes des robots autonomes
mais elle prône une assurance obligatoire pour les utilisateurs
de ces robots.
14

Une très forte réglementation Une absence de réglementation
Ne stimule pas l’innovation (Red Flag
Act, OGM, bitcoin, drônes)
Incertitude juridique et manque
d’investissement
Protège davantage le consommateur Cantonnement des fabricants à des
risques limités et calculables
Peut également ne pas stimuler
l’innovation
Moins protecteur du consommateur
15

- L’influence des lobbies (fabricants de bougies, assureurs).
- Le paradoxe de Collingridge: le législateur doit attendre que la
technologie soit développée avant de légiférer mais il ne peut
pas non plus agir trop tard (ex. biotech).
Trouver le juste milieu entre trop ou pas suffisamment de
règles et agir ni trop tôt ni trop tard.
Agir ex post lorsque les IA / robots produisent des
externalités limitées et ex ante lorsqu’ils produisent des
externalités systémiques ou existentielles afin d’éviter le
paradigme de Collingridge.
16

Challenges légaux - Personnalité
juridique
- La personnalité juridique est l’aptitude à être titulaire de droits
et de devoirs: conclure des contrats, attaquer ou défendre en
justice, être propriétaire, payer des impôts, etc.
- La personnalité juridique est octroyée aux êtres humains et
aux personnes morales.
- Les animaux bénéficient d’une protection pénale et civile
(indirecte) mais pas de la personnalité juridique: c’est toujours
l’homme qui agit en son nom et pour l’animal.
17

Challenges légaux - Personnalité
juridique
- La personnalité juridique n’est pas (encore) octroyée aux
robots mais…
- Résolution du Parlement européen: demande à la Commission
d’envisager toutes les hypothèses juridiques, telles que la
création, à terme, d’une personnalité juridique spécifique aux
robots, pour qu’au moins les robots autonomes les plus
sophistiqués puissent être considérés comme des personnes
électroniques responsables, tenues de réparer tout dommage
causé à un tiers; il serait envisageable de conférer la
personnalité électronique à tout robot qui prend des décisions
autonomes ou qui interagit de manière indépendante avec des
tiers.
18

Challenges légaux - Responsabilité
- Qui est responsable des dommages?
* La personne les ayant causés (art. 1382 C. Civ.);
* Le tiers responsable de la personne/chose les ayant causés
(parents–enfants mineurs/maître–domestique/instituteurs–
élèves/artisans–apprentis, propriétaire–objet) (art. 1384 C.Civ.); ou
* Le fabricant du produit défectueux (génère un dommage imprévu
dans le cadre d’un usage normal, pas besoin de faute, loi du 25
février 1991).
- Comment peut-on appliquer cela à l’IA et aux robots?
19

Challenges légaux - Responsabilité
- Lorsque le robot sera vendu en open source, la personne
responsable devrait, en principe, être celle qui aura élaboré
l’application du robot lui ayant permis d’occasionner un
dommage.
- Lorsque le robot aura causé un dommage qui trouvera son
origine dans la conception ou la fabrication du robot, le
concepteur ou le fabricant devrait être considéré comme
responsable.
- Lorsque le robot aura causé un dommage qui trouvera son
origine dans l’usage ou la période d’apprentissage du robot, il
faudrait considérer que son utilisateur ou son propriétaire (pro
ou non / victime ou non) devrait être désigné comme
responsable.
- Location / robots autonomes – non autonomes / au pénal? 20

Challenges légaux - IP
- Le droit d’auteur: œuvres littéraires et artistiques si elles sont
mises en forme et peuvent être considérées comme originales
(une création intellectuelle de l’auteur reflétant la personnalité
de ce dernier et se manifestant par les choix libres et créatifs
de celui-ci).
- Le droit des dessins et modèles: l'apparence d'un produit,
lorsqu’elle est nouvelle.
- Le droit sur les bases de données: bases de données qui
sont le résultat d’un investissement qualitativement ou
quantitativement substantiel.
21

- Le droit des brevets: invention technique nouvelle qui apporte
une solution technique à un problème technique, susceptible
d’application industrielle et licite.
- Le droit des marques protège les signes susceptibles d'une
représentation graphique servant à distinguer les produits ou
services d'une entreprise.
22

- Un robot peut faire l’objet de plusieurs protections: droit
d’auteur, droit de modèle et brevet.
- Quid de l’œuvre du robot lui-même?
https://www.youtube.com/watch?v=LSHZ_b05W7o
* Droit d’auteur : le robot a t-il une personnalité juridique? Fait-il des
choix libres et créatifs? (U.S.A.: pas de protection accordée à un
selfie réalisé par un singe).
* Bases de données: le robot est-il le producteur, “la personne qui
prend l'initiative et le risque des investissements correspondants”?
* Brevet : quelque chose d’inventif pour un humain pourrait devenir
totalement basique pour un robot. 23

Questions éthiques - notions de base
- Lois d’Asimov (1950):
* “Un robot ne peut porter atteinte à un être humain ni, restant passif,
permettre qu’un être humain soit exposé au danger.”
* “Un robot doit obéir aux ordres que lui donne un être humain, sauf
si de tels ordres entrent en conflit avec la première loi.”
* “Un robot doit protéger son existence tant que cette protection
n’entre pas en conflit avec la première ou la deuxième loi.”
 Loi 0: “Nulle machine ne peut porter atteinte à l’humanité ni, restant
passive, laisser l’humanité exposée au danger.”
24

Questions éthiques - notions de base
- Evolution de la “robot-éthique”:
* Lignes directrices du projet “Robolaw” (financé par l’UE)
* Les préconisations de la Commission de réflexion sur l’Ethique de
la Recherche en sciences et technologies du numérique d’Allistène
(CERNA – France)
* Initiatives internationales (Corée du Sud, USA, Japon, etc.)
* Référentiel général d’éthique (national – européen – international)
25

Questions éthiques - emplois
“Pour beaucoup de personnes avoir un emploi donne un sens à
leur vie car cela les rend utiles. Ils peuvent faire une différence.
Que se passe-t-il si ces personnes perdent leur job? Sont-elles
alors inutiles? Il s’agit là de quelque chose qui ne peut pas être
sous-estimé.” (Elon Musk, CEO Tesla Motors)
26

Questions éthiques - fiscalité
- Les robots devraient-ils être imposés?
- Remplacent des contribuables
- Sont plus productifs
- Peuvent travailler 24h/24
MAIS
- Frein à l’innovation?
- Mise en œuvre?
 Emergence d’un revenu universel (“Win for life” – Nele Lijnen (Open
VLD))?
27

Questions éthiques - risques de
discrimination
- Les algorithmes utilisent les données du passé pour établir des
modèles ou effectuer des prévisions.
- Les algorithmes ne sont pas créatifs.
- Exemple: “Applicant Tracking Systems”.
 Correction des algorithmes possible, mais audit des “boîtes
noires” nécessaire.
28

Questions éthiques - le “Trolley
Dilemma”
- Véhicules autonomes
- Que faire lorsque l’accident est inévitable? Le “Trolley
Dilemma”
29

Questions éthiques - le “Trolley
Dilemma”
- Les chaînes de production et la fabrication du trombone parfait
30

Questions éthiques - le surhomme
- Utilisation des technologies réparatrices:
* Assistance au travail pénible
* Aide aux personnes souffrant de défaillances physiques
- MAIS restriction des technologies augmentatives:
* Courant transhumaniste
* Empêcher que certaines personnes puissent bénéficier de qualités
physiques / mentales supérieures aux capacités humaines
* Risque de concurrence entre les employés
31

Questions éthiques - armement
autonome
- Distinction entre armement autonome et semi-autonome:
* Semi-autonome: une partie des décisions subsiste chez l’humain,
* Autonome: une fois activée, l’arme sélectionne seule ses cibles et,
le cas échéant, attaque.
- Levée de boucliers importante de la société civile, du monde
scientifique et de nombreuses ONG.
 Demande d’une interdiction préventive de robots-soldats
autonomes.
32

Quelques opportunités…
- “Infrastructures” d’intégration de l’IA
- Mise en place d’infrastructures d’intégration
- Optimisation des interactions robot-humain et robot-robot
- Amélioration de la sécurité
- Utilisation des données
- Protection des données:
- Inflation des données disponibles
- Données à caractère personnel moins sauvegardées
- Pierre angulaire de la confiance
33

- Assurances en matière d’IA / robotique
- Multitude de données (futures) disponibles
- Infrastructures adaptées
- Atténuation / disparition de l’erreur humaine (ex. roulage)
- Fintech
- Rapidité / efficacité
- Réduction des coûts
- Accès illimité à l’information
34

- Assistance aux personnes / médecine:
- Augmentation de l’autonomie
- Amélioration des soins
- Réduction des coûts
- Attention à la rupture du lien social
35

Merci pour votre attention !
36

Contacts
Louis Lantonnois Michaël Zadworny
NautaDutilh BVBA/SPRL NautaDutilh BVBA/SPRL
Associate Associate
T: +32 2 566 81 44 T: +32 2 566 81 66
M: +32 499 69 84 63 M: +32 499 69 84 03
E: louis.lantonnois@nautadutilh.com E: michael.zadworny@nautadutilh.com
37

28 avril 2017,
de 8h30 à 10h
General Data Protection Regulation : impact pour les entreprises innovantes
Orateur : Centre Recherche Info Droit et Société (CRIDS - UNamur)
19 mai 2017,
de 8h30 à 10h
Incitants fiscaux en R&D : état des lieux
Orateur : DELOITTE

Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017

Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017

Contenu connexe

Similaire à Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017 (6)

Plus de Interface ULg, LIEGE science park (20)

Dernier (7)

Intelligence artificielle - juridique - Le Point du LIEGE science park - 31 mars 2017