Etienne Boisseau

Développement et industrialisation de solutions IA et NLP dans tout le groupe BNP Paribas en tant qu'AI Engineer au sein d'une équipe dédiée à conseiller les entités du groupe sur leurs décisions techniques et stratégiques dans le domaine. Lead maintainer et designer pendant 1 an et demi d'un framework python pour passer à l'échelle les intiatives RAG dans le groupe, utilisé par une quinzaine d'équipes au sein du groupe.

Construction et maintenance de pipeline CI, de librairies python pour plusieurs projets et entités dans le groupe.

Focus important sur la construction de pipeline d'évaluation automatisées pour assurer la fiabilité des agents LLM, assistants RAG, systèmes de recherche et parsers de PDF.

Vignoblexport souhaitait se doter d'un algorithme de détection d'incidents, mais ne pouvait tolérer aucun faux négatif. Il fallait donc construire une chaîne de traitement extrêmement robuste et contrôler finement la qualité de la donnée.

En plus de détecter les incidents, l'entreprise souhaitait les prédire avant qu'ils n'arrivent en exploitant ses 10 années d'historique de données.

Tâches réalisées :

- Evaluation du besoin, création d'un cahier des charges et d'un planning prévisionnel.

- Investigation de la source du problème avec l'algorithme existant : problème de qualité de données.

- Création d'un schéma de base de données permettant de répondre au problème (6 nouvelles tables devaient être créées).

- Création d'un package Python permettant de gérer efficacement les nouveaux concepts introduits, d'alimenter et de mettre à jour en continu la base de données.

- Conception de 5 workers atomiques remplissant différents rôles liés au sourcage de données, à leur traitement, à l'avertissement des équipes et au monitoring de toute la chaîne de traitement. La séparation des tâches permettait d'atteindre un couplage faible entre les workers et de maximiser des propriétés désirables comme l'involutivité et le caractère "sans mémoire" (statelessness) des opérations.

- Mise en place de 5 clients Python utilisant le package créé plus tôt, implémentant les 5 workers conçus.

- Création de jeux de données pour l'entraînement des modèles prédictifs.

- Feature engineering, sélection de features et sélection de modèle pour les tâches de prédiction.

- Création et exposition d'une API permettant de requêter les modèles prédictifs.

- Mise en production des workers de traitement des données et de prédiction avec Docker.

Face à des coûts d'inférence très importants pour ses modèles de deep learning, le client souhaitait réduire ce coût sans compromettre sur la qualité.

En utilisant des méthodes de pointe d'optimisation de réseaux de neurones (quantisation, distillation, pruning, optimisation de graphe) et en optimisant l'utilisation des ressources cloud du client, nous avons divisé par 6 le coût d'inférence de larges modèles de NLP.

Tâches réalisées :

- Evaluation du besoin, création d'un cahier des charges et d'un planning prévisionnel.

- Création d'un outil de benchmarking permettant d'évaluer la performance et le coût d'un modèle sous différents paramètres d'optimisation et backend.

- Réalisation d'une étude complète établissant les choix optimaux en terme d'optimisation de modèles en fonction de divers critères. Rédaction d'un rapport détaillant ces conclusions.

- Mise en production de la meilleure solution trouvée, permettant des économies de 85% sur le coût d'inférence.