Tadjou T.

Au sein de l'équipe Architecture & Innovation, je conçois et déploie des solutions d'IA pour la conformitéréglementaire et la gestion documentaire.Parmi ses principales réalisations, citons :

- La mise en oeuvre d’un système d’interrogation de base de connaissances (Confluence, Jira, etc.)via un système RAG , aussi utilisé pour générer des documents d'exigences commerciales àpartir de textes réglementaires.

- L'implémentation d’un MCP Server pour un use case « Chat with Data » permettant l'interrogation en langage naturel des bases de données Redshift et Iceberg.J’ai participé au déploiement sur différents environnements dans le cloud AWS de ces projets.

Objectif : Au sein de Gedeon, j’ai travaillé sur la mise en place d’un chabot pour répondre auxquestions autour de la retraite en France, principalement sur le Plan d’Épargne Retraite Obligatoire(PERO) et ses domaines connexes.

Pour y parvenir, j’ai effectué des tâches suivantes :

- Constitution de Corpus : Scraping de sites web

- Création de données synthétiques (FAQ) via des Prompts avec l’API d’OpenAI et les donnéesscrappées

- Affinage ( Finetuning) de petits LLM (Llama 7B, Zephyr 7B, Phi 3) sur AWS Sagemaker avecles données synthétiques et les modules de training de HuggingFace

- Évaluation des modèles via des feedbacks experts de la retraite chez Gedeon qui ont annotéles données synthétiques et les réponses produites par les modèles finetunés.

- Mise en place de l’approche RAG (Retrieval Augmented Generation) avec trois approchesdifférentes :

- Code Python avec Langchain, Chroma DB pour l’indexation des données etexposition du service Chatbot avec Fast APIo Utilisation de Vertex AI Serach & Conversation (GCP) avec Gemini Pro et DialogFlowCX pour un POC chatboto Utilisation de Promptflow (Azure ) en local avec les connexions d’Azure Open AI etAzure Cognitive- Containerisation du Chatbot conçu avec PromptFlow pour le déploiement

- Utilisation de Github Action pour l'intégration continue et le déploiement continu (CI/CD) duChatbot

- Création sur Azure Portal d’un compte Service Principal pour le déploiement du Chatbot

- Connexion du Chatbot via API par l’implémentation d’un module Nodejs dans la partieBackend du SaaS de Gedeon qui lui communique avec un BD Mongo pour la sauvegradedes conversations du Chatbot

Environnement technique: AWS Sagemaker, Notebook, FastAPI, Azure AI Studio, LangChain,LlamaIndex, Python, GitHub actions, Pytorch, HugginfgFace, Vertex AI, MongoDB, VsCode

Thèse CIFRE portant sur la problématique de démêlage de conversation.

Au cours de cette thèse, j'ai travaillé sur les problématiques de constitution de corpus en entreprise, de pseudo-anonymisation de données via NER, d'identification d'actes de dialogues et d'appariement de segments de texte dans les conversations. J'ai aussi effectué des expériences avec les LLMs notamment avec la librairie LangChain et OpenAI sur certaines de ces tâches. J'ai eu à déployer et utiliser des outils d'annotation tels que Prodigy et Inception. Après l'état de l'art sur les problématiques, j'ai développé une sonde d'emails d'Outlook avec interface graphique permettant d'optimiser la collecte d'emails tout en respectant le RGPD.