Thèse Enjeux juridiques, éthiques et de gouvernance des technologies d'intelligence artificielle F/H

Description de l'offre

about the role

Votre rôle est d'effectuer un travail de thèse sur les enjeux juridiques, éthiques et de gouvernance des technologies d'intelligence artificielle.

Les services des télécommunications actuels tendent de plus en plus à collecter et manipuler les données des individus clients et utilisateurs. Le nouveau règlement européen sur les données personnelles (RGPD) fournit un cadre légal renforcé afin d'en assurer leur protection. En particulier, il entend donner à l'utilisateur plus de contrôle sur ses données, grâce à la réaffirmation de droits déjà existants ou la mise en place de nouveaux droits, comme le droit à l'information (article 13 et 14), le droit d'accès (article 15) ou le droit de ne pas faire l'objet de décisions exclusivement fondées sur un traitement automatisé y compris le profilage et produisant des effets juridiques sur elles ou les affectant de manière significative (article 22). Le consentement joue un rôle central dans cette construction juridique. Alors que les premières décisions des autorités européennes de protection des données post RGPD sont attendues, l'interprétation de ce texte laisse encore matière à débat, notamment sur les conditions d'un consentement authentiquement libre et éclairé et la mise en oeuvre du principe de privacy by design.

En parallèle, les technologies d'intelligence artificielle sont de plus en plus utilisées pour prendre des décisions automatiques qui impactent la vie des individus et promettent de réaliser des prédictions, sans que les données utilisées soient toujours connues et sans qu'il soit toujours possible d'expliquer la méthode utilisée par l'algorithme (cas des réseaux de neurones).

Ces technologies soulèvent de nombreuses questions quant aux effets individuels et collectifs qu'elles peuvent produire et aux risques associés (discrimination et exclusion, déresponsabilisation, perte d'autonomie humaine, manipulation…)

En France, la loi pour une République numérique promulgée en octobre 2016, a introduit une nouvelle notion qu'est la transparence des algorithmes et la loyauté des plateformes et instaure un cadre contraignant pour les algorithmes publics. On retrouve également cette notion de transparence dans le GDPR même si le droit à l'explication des algorithmes est discuté [1]. L'INRIA travaille sur un projet (Transalgo) d'évaluation des algorithmes [2]. En 2017, la CNIL, au terme d'un long processus de débats publics, a publié un rapport [3] sur les enjeux éthiques des algorithmes et l'intelligence artificielle, qui ouvre des pistes d'actions sans s'engager sur le terrain proprement juridique. Le rapport Villani [4] publié en 2018, tout en appelant à un investissement massif dans l'intelligence artificielle, n'élude pas un certain nombre d'enjeux sociétaux associés.

La thèse se déroulera donc dans un contexte particulièrement mouvant, entre mise en application de textes à l'interprétation non finalisée, controverses publiques sur les enjeux éthiques, technologies émergentes, et démultiplication des usages effectifs ou possibles.

Se référer à la section 3 « Le plus de l'offre » pour des informations détaillées sur la mission scientifique et les principales activités associées à la thèse.

about you

Le-la candidat-e devra être niveau bac + 5 en sortie d'un master juridique, si possible avec une spécialisation en droit du numérique et/ou de droit de la protection des données personnelles.

Une appétence pour la sociologie des techniques et une connaissance des méthodes d'enquête sociologique constitueraient un atout supplémentaire, sans que cela soit une condition nécessaire.

Un stage ou un mémoire autour du cadre législatif et réglementaire applicable à la protection des données personnelles serait un atout complémentaire.

Le-la candidat-e de formation juridique devra s'appuyer sur des connaissances importantes en matière de réglementation sur la protection des données personnelles, et plus généralement sur le droit des technologies numériques.

Un-e doctorant-e se doit d'être autonome, curieux-se et ouvert-e d'esprit pour les phases de recherche, rigoureux et méthodique pour la gestion de l'état de l'art et lors des phases de rédaction (d'articles ou du mémoire de thèse final). Il-elle doit par ailleurs se montrer dynamique afin d'être force de propositions. Enfin, un-une doctorant-e étant amené-e à présenter ses résultats tout au long de sa thèse (à l'écrit et à l'oral), des qualités de communication seront appréciées. Pour ce projet, il-elle sera amené-e à interagir avec d'autres équipes de recherche comme avec le service juridique de l'entreprise, et doit manifester une aptitude au travail collaboratif.

additional information

Objectif scientifique - verrous à lever

L'objectif de la thèse est de faire émerger des propositions et argumentaires juridiques pour Orange permettant de développer des services basés sur des analyses prédictives et/ou prescriptives dans un climat de confiance.

Nous avons ainsi identifié 3 verrous scientifiques qui guideront le travail :

·  Le flou des textes juridiques, le manque de doctrine et de jurisprudence quant aux conditions d'usage d'une IA
·  Les interrogations sur les responsabilités respectives des acteurs, du développeur au décisionnaire en passant par le data scientist ou le collecteur de données
·  Le rôle joué par l'utilisateur, aussi bien côté grand public que côté business, qui peut par ses propres usages, influencer les algorithmes en rétroaction, sciemment ou non, et qui, aspirant à la transparence, doit être en mesure de pouvoir exerces ses droits en contexte non déterministe.

Approche méthodologique-planning

A partir des différents cas d'usage dans lesquels Orange utilise déjà des algorithmes d'intelligence artificielle (ex : RH, relation client…), la thèse aura pour objectif de :

·  Etudier la gouvernance : choix des données, vérification de leur qualité, processus d'extraction et de sécurisation, acquisition ou production de l'algorithme, détermination des finalités d'usage de l'algorithme. Il s'agit ici d'observer in concreto la chaine des acteurs impliqués, en interne comme en externe, et leur rôle respectif, en s'affranchissant à ce stade de toute notion de responsabilité juridique.
·  Identification des risques éventuels associés, en cherchant à distinguer les décalages possibles entre la description de ces risques, et leur perception par les différents acteurs de la chaine, y compris l'utilisateur. Recenser les réponses éventuelles déjà mises en place par ces derniers.
·  Examiner ces risques à la lumière des textes juridiques existants, afin de mesurer la robustesse de ces derniers ainsi que d'identifier leurs limites. Ex : part de responsabilité du sous-traitant, la notion de finalité confrontée à des pratiques de Deep learning, celle de transparence compatible avec la propriété intellectuelle…

Sur ces trois premières tâches, la thèse s'efforcera de dégager de façon transverse des régularités et des divergences entre les différents cas d'usages identifiés à travers le groupe. Le cas échéant, les travaux pourront intégrer des algorithmes déterministes, lorsqu'ils présentent des schémas similaires.

Par ailleurs, la thèse :

·  Recensera à l'échelle internationale, les débats, tensions, et pistes juridiques sur de nouvelles règlementations possibles autour des algorithmes d'IA au-delà des déclarations de principe ; confronter ces pistes aux cas d'usages propres à Orange.
·  Proposera des pratiques internes (ex : évolution de la gouvernance, règles dans l'achat d'algorithmes externes, responsabilisation de la chaine d'acteurs internes…) susceptibles d'anticiper sur ces régulations afin de faire monter une culture de la responsabilité dans l'entreprise et d'éviter à l'entreprise de déployer des solutions qui pourraient rapidement se trouver non conformes. Le cas échéant, ces pistes pourront être soumises aux acteurs parties prenantes du processus décisionnel, dans un exercice réflexif et critique.

La recherche s'appuiera d'une part sur une étude approfondie des textes existants et, des débats internationaux juridiques et éthiques autour des algorithmes prédictifs, d'autre part sur des entretiens en interne avec la chaine d'acteurs impliqués dans la gestion et manipulation des algorithmes prédictifs et des bases de données associées.

department

Au sein de la division innovation, le-la doctorant.e sera integré-e à une équipe de recherche en sciences sociales et humaines qui travaille sur des problématiques connexes. Il-elle sera également en contact avec la direction juridique qui est confrontée aux cas d'usage Orange.

Qu'est ce qui fait la valeur ajoutée de cette offre ?

La thèse s'effectuera dans un grand groupe international dans le domaine des télécommunications. Les projets d'innovation utilisant l'intelligence artificielle sont multiples et pourront nourrir les travaux. L'intégration dans une équipe de recherche pluridisciplinaire donnera une vision transverse au doctorant.e lui permettant de prendre du recul sur son sujet et améliorer sa compréhension des technologies à analyser. Il/elle pourra de plus être au contact d'autres chercheurs scientifiques soit développant les technologies d'IA ou travaillant sur la sécurité et la protection des données. Il/elle aura l'opportunité de travailler sur un objet de recherche à la fois neuf et sur lequel le droit aura un rôle majeur à jouer dans les années qui viennent.

contract

Thesis