Accélération des LLMs sur le Cloud AWS au service de la bio-informatique

Le contexte

Notre client est une société pionnière dans le développement de genAI/LLMs (Large Language Models) appliqués à la découverte de médicaments. Leur objectif est d'utiliser la puissance de l'intelligence artificielle et du cloud computing pour transformer le processus de recherche et développement pharmaceutique en exploitant des jeux de données massifs et des algorithmes sophistiqués. Cependant, la complexité de ces développements nécessite une infrastructure cloud optimisée et une expertise pointue en matière d'IA.

Les réalisations en cours

Aneo met en place un programme complet de conseil et d'accompagnement en se concentrant sur les aspects suivants :

• Optimisation de l'infrastructure cloud AWS : conception et déploiement d'une architecture cloud robuste pour supporter les charges de travail en données et les processus de calcul LLM
• Amélioration de l'efficacité et optimisation des performances I/O : définition et mise en œuvre de pipelines LLM/ML optimisés pour accélérer le training des modèles et le preprocessing
• Mise en place de bonnes pratiques : établissement de standards pour la gestion des utilisateurs et l'accès aux ressources cloud afin de garantir de la sécurité
• Exploration de la parallélisation de données et de modèle