Mettre en production, durablement, des produits de Machine Learning 🤖

Contraction de Machine Learning et Ops, ce domaine englobe l’ensemble des pratiques qui visent à industrialiser, mettre en production et assurer le run de modèle de Machine Learning. 

Le Machine Learning est une discipline du logiciel un peu particulière puisqu’elle nécessite de manipuler du code, des données, mais un nouvel objet : le modèle de Machine Learning, qui conduit à introduire de nouvelles pratiques, de nouveaux patterns d’architectures, etc.

Les pratiques MLOps se déclinent en trois volets :

1. L’industrialisation, il s’agit d’appliquer au code de Data Scientist des pratiques du monde de l’artisanat logiciel pour le rendre reproductible, modulaire, évolutif, scalable, etc. Les pratiques mobilisées ici sont l’utilisation d’IDE, poser des tests automatisés, respecter la syntaxe pep8, le versionning de code, d’expérimentations, etc. ;
2. La mise en production, en fonction des besoins des utilisateurs en termes de fréquence de prédiction, de délai de prédiction, il faut ici mobiliser des compétences d’architecture pour designer correctement son application, d’Ops pour déployer les bonnes ressources ;
3. Le run, il s’agit de mesurer en continu la performance des modèles, identifier les bugs, les erreurs inacceptables du modèle, débugger, tout cela pour assurer les niveaux de services. Les pratiques mobilisées viennent du SRE.

Le MLOps est donc à la croisée des compétences craftsmanship, architecture, Ops, SRE, et c’est ce qui rend ce domaine passionnant !

Mettre correctement en production un modèle de Machine Learning est déjà un challenge, mais le plus gros challenge est de réaliser cela à l’échelle d’une organisation. 

Les questions à se poser sont alors : 

• Comment assurer l’observabilité de l’ensemble des modèles en productions pour répondre aux obligations de l’IA Act ;
• Quel niveau d’automatisation choisir pour le MLOps en fonction de l’enjeu de l’application ? Les petits projets méritent sans doute une architecture MLOps minimaliste, les projets à forts enjeux métiers une architecture plus complète ;
• Comment assurer les obligations de mise à jour des données et des modèles lorsque les citoyens le demandent (conformément au GDPR) ? ;
• Comment assurer une cohérence dans les pratiques entre des équipes distribuées dans plusieurs entités ?