Transmission de connaissances entre réseaux neuronaux via distillation learning (H/F)

Description de l'offre

Atos est un leader international de la transformation digitale avec environ 100 000 collaborateurs dans 72 pays et un chiffre d’affaires annuel de l’ordre 12 milliards d’euros. Numéro un européen du Big Data, de la Cybersécurité, des supercalculateurs et de l’environnement de travail connecté, le Groupe fournit des services Cloud, solutions d’infrastructure et gestion de données, applications et plateformes métiers, ainsi que des services transactionnels par l’intermédiaire de Worldline, le leader européen des services de paiement. Grâce à ses technologies de pointe et son expertise digitale & sectorielle, Atos accompagne la transformation digitale de ses clients dans les secteurs Défense, Finance, Santé, Industrie, Médias, Énergie & Utilities, Secteur Public, Distribution, Télécoms, et Transports. Partenaire informatique mondial des Jeux Olympiques et Paralympiques, le Groupe exerce ses activités sous les marques Atos, Atos Consulting, Atos Worldgrid, Bull, Canopy, Unify et Worldline. Atos SE (Societas Europea) est une entreprise cotée sur Euronext Paris et fait partie de l’indice CAC 40.

Le deep learning est une technique d’apprentissage s’appuyant sur des réseaux de neurones artificiels. Cette nouvelle science permet de réaliser automatiquement des tâches jusqu’à lors réservées aux humains. Parmi ces tâches, on peut citer la détection de visages, le traitement de l’audio et de la parole ou encore l’analyse sémantique de contenus textuels.

Les objets connectés sont de plus en plus nombreux (smartphones, smart cities, véhicules autonomes) et captent beaucoup de contenus visuels, audio ou textuels. L’introduction du deep learning permet à ces systèmes de réaliser des traitements de plus en plus poussés : des caméras peuvent par exemple automatiquement détecter des colis suspects ou des comportements dangereux sur les images qu’elles captent. Une véritable intelligence distribuée pourra être bâtie sur l’alliance du deep learning et des objets connectés.

Le deep learning est malheureusement extrêmement couteux en ressources de calcul et en mémoire. Les objets connectés, qui ont généralement besoin d’être autonomes, légers et bon marché, ont des ressources en stockage et calcul restreintes.

Réduire la taille des réseaux, est une approche transverse permettant d’embarquer du deep learning dans des objets connectés. Le distillation learning, est une approche récente, prometteuse, qui consiste à transmettre le savoir d’un réseau de neurones volumineux, dit enseignant, vers un réseau de neurones réduit, dit étudiant. Cette approche permet de constituer des réseaux efficients, adaptés aux capacités de calculs et ressources limités.

D’autres techniques de compression de réseaux sont également actuellement intensivement étudiées.

ATOS BDS R&D et son département logiciel, développent des systèmes de machine et deep learning appliqués entre autres à la vision par ordinateur. Ces systèmes servent à construire des services et produits innovants comme la vidéo surveillance active ou l’affichage de publicités ciblées.

Diplôme / Formation

Bac +5 (Ingénieur, Master, ...)

Durée

6 mois

Mission

L’objectif de ce stage est de trouver des méthodes pour construire des réseaux de neurones plus efficients. On cherche à entrainer des nouveaux réseaux, relativement petits, en réexploitant l’architecture et le savoir-faire de réseaux plus volumineux, utilisés dans l’équipe. Pour résoudre ce problème, le stagiaire pourra être amené à :

· o Etudier des papiers de recherche théorique sur l’apprentissage et la réduction de réseaux neuronaux.
· o Développer des méthodes d’apprentissage de réseaux de neurones réduits
· o Appliquer ses découvertes à des cas d’applications concrets

Compétences

Vous maîtrisez les environnements Linux.

Vous avez un bon niveau en programmation (python, java, C++…).

Vous possédez un bon niveau d’anglais.

Vous possédez des connaissances en machine learning.

Vous faîtes preuve de créativité, d'autonomie et d'une capacité à finaliser un projet de recherche. Par ailleurs, vous êtes reconnus pour votre aptitude à travailler en équipe.

La diversité de nos missions au plus près de nos clients entouré d'une équipe agile et soudée vous permettront d'exploiter et de faire évoluer vos compétences dans une entreprise soucieuse du wellbeing@work de ses employés.

Chez Atos la diversité est au cœur de notre politique RH. C'est pourquoi Atos a mis en place un accord relatif à l’égalité professionnelle entre les hommes et les femmes. Par ailleurs, nos métiers sont tous accessibles aux personnes en situation de handicap, et ce quelle que soit la nature de leur handicap.