d-Matrix s’attaque à une étape déterminante de l’intelligence artificielle : l’inférence, c’est-à-dire l’utilisation d’un modèle déjà entraîné pour produire une réponse, analyser une information ou générer du contenu. Installée à Santa Clara, en Californie, l’entreprise conçoit des composants et des systèmes destinés aux centres de données. Elle entend proposer une alternative spécialisée aux processeurs graphiques, largement employés pour ces traitements, en travaillant conjointement sur l’architecture matérielle et les logiciels nécessaires à son exploitation.
Une entreprise issue de l’industrie des semi-conducteurs
Fondée en 2019 par Sid Sheth et Sudeep Bhoja, d-Matrix s’appuie sur l’expérience de ses cofondateurs dans les puces et les infrastructures de communication. Leur pari consiste à adapter le matériel aux contraintes propres à l’inférence plutôt qu’à reprendre une architecture généraliste. L’essor des grands modèles de langage a renforcé la pertinence de cette approche : une fois entraînés, ces modèles doivent répondre à des sollicitations répétées, avec des exigences de latence et de maîtrise des coûts.
La société a notamment obtenu le soutien d’investisseurs comme Playground Global, M12, le fonds de capital-risque de Microsoft, et Temasek. Ces financements accompagnent une activité exigeante en capitaux : concevoir des semi-conducteurs, faire fabriquer les puces, développer des cartes et constituer l’environnement logiciel indispensable à leur adoption. Comme d’autres acteurs sans usine de fabrication propre, d-Matrix dépend aussi de partenaires industriels pour concrétiser ses architectures.
Rapprocher le calcul des données
Le socle technologique de d-Matrix est le « digital in-memory computing », une approche numérique du calcul en mémoire. Dans les architectures classiques, déplacer les données entre mémoire et unités de calcul mobilise du temps et de l’énergie. L’entreprise cherche à limiter ces déplacements en rapprochant les opérations arithmétiques des données stockées. Cette orientation répond notamment aux contraintes des modèles génératifs, dont l’exécution peut être freinée par les accès à la mémoire.
Présentée en 2024, sa plateforme Corsair traduit cette architecture en une offre d’accélération pour l’inférence. Elle associe du matériel spécialisé à une couche logicielle chargée de rendre les modèles exploitables sur cette architecture. L’enjeu ne se limite donc pas à la puce : les équipes clientes doivent pouvoir intégrer l’accélérateur dans leurs serveurs et leurs chaînes de déploiement. Les bénéfices effectifs dépendent des modèles, de leur précision numérique et des conditions d’utilisation ; ils doivent être évalués sur des charges représentatives.
Et maintenant ?
Pour d-Matrix, la prochaine étape se joue autant dans l’adoption industrielle que dans la conception des composants. Face à l’écosystème logiciel de Nvidia et aux puces développées par les grands fournisseurs de cloud, l’entreprise doit démontrer un avantage économique mesurable sans imposer une migration trop complexe. La compatibilité avec l’évolution des modèles, la disponibilité des systèmes et la qualité du support seront déterminantes. Son positionnement répond à une question durable : comment faire fonctionner l’IA générative à grande échelle tout en maîtrisant les ressources mobilisées ?