Gimlet Labs : Comment cette startup réinvente l'infrastructure IA pour plus d'efficacité

Gimlet Labs s'est imposée comme un nouvel acteur clé dans le secteur de l'infrastructure de l'intelligence artificielle. L'entreprise propose un modèle technologique qui vise à transformer la manière dont les systèmes d'IA fonctionnent, en offrant des solutions plus efficaces et flexibles, tant en termes de performance que de coût. Fondée à San Francisco, la société fonctionne comme un laboratoire de recherche appliquée, se concentrant sur le développement de ce que l'on pourrait appeler un « système d'exploitation pour l'IA ». Elle répond ainsi aux défis croissants des architectures traditionnelles, qui s'appuient principalement sur les unités de traitement graphique (GPU) sans exploiter pleinement les autres ressources de calcul. La vision de l'entreprise repose sur la correction des lacunes des systèmes d'exploitation d'IA actuels. Pour cela, elle décompose les tâches complexes en étapes plus petites, puis les redistribue intelligemment sur divers types de matériel, y compris les unités centrales de traitement (CPU) et les processeurs spécialisés. Cela permet d'améliorer considérablement les performances et de réduire les coûts opérationnels. Dans cette optique, l'entreprise a développé une suite d'outils technologiques, dont la plateforme « Gimlet Cloud ». Celle-ci propose un modèle d'exécution sans serveur (Serverless) pour les applications d'IA, incluant les agents intelligents (AI Agents) et les systèmes multimodaux. La plateforme gère automatiquement la planification, la distribution et l'optimisation des performances. L'entreprise propose également l'outil « kforge », qui permet de générer automatiquement des codes de bas niveau (kernels). Cela contribue à améliorer l'efficacité de l'exécution des modèles sur divers environnements de calcul, avec la prise en charge de plateformes multiples comme CUDA, ROCm et Metal. Cette approche réduit le besoin de réécrire le code et renforce l'évolutivité. L'architecture technologique de Gimlet Labs repose sur trois composants clés : un « orchestrateur intelligent » pour la distribution des tâches, un « compilateur » pour optimiser les performances en fonction du type d'appareil, et des techniques de génération automatique de code. Tout cela permet une exécution plus efficace des applications d'IA dans des environnements variés. Les activités de l'entreprise s'étendent à plusieurs domaines de recherche avancée, notamment la gestion des centres de données d'IA, la répartition des charges entre le calcul en périphérie (Edge) et le cloud, le développement d'un compilateur unifié, ainsi que la conception de composants matériels (Hardware) personnalisés. L'objectif est de réduire le coût d'exécution des modèles et de maximiser l'utilisation des ressources disponibles. Sur le plan du marché, l'entreprise est sortie de sa phase de discrétion en 2025, générant des millions de dollars de revenus. Ses technologies ont été adoptées par des entreprises spécialisées dans l'IA et de grandes institutions, ce qui témoigne de la demande croissante pour des solutions d'infrastructure capables de soutenir la nouvelle génération d'applications d'IA. L'expérience de Gimlet Labs reflète un changement dans la nature de la concurrence au sein du secteur de l'IA. L'accent n'est plus uniquement mis sur le développement de modèles, mais s'étend désormais à la construction d'une infrastructure plus efficace et durable, capable de suivre la croissance rapide de l'utilisation de l'IA à l'échelle mondiale.