Aujourd'hui, l'IA transforme la façon dont les entreprises fonctionnent. Les agents deviennent un moteur clé de la nouvelle productivité numérique et évoluent vers des employés numériques dans les entreprises. L'expansion rapide des applications d'IA entraîne une augmentation de la consommation de jetons d'entreprise à une échelle sans précédent. Yuan a souligné que
les entreprises avaient besoin de faire évoluer rapidement leur architecture informatique existante en une infrastructure de DC d'IA afin d'accélérer l'adoption de l'IA. Cette infrastructure doit être systématiquement planifiée et construite autour des piliers suivants : les lacs de données, les plateformes de données d'IA, la puissance de calcul, les modèles, les cadres d'agents et la résilience des données.
Dans ce contexte, Huawei a dévoilé la solution d'infrastructure de données full-stack des DC d'IA pour accélérer la construction des DC d'IA et l'adoption à grande échelle de l'IA dans les entreprises.
Le stockage évolutif à haute densité OceanStor Pacific offre une capacité de 11 Po dans un espace de 2 U, permettant ainsi un stockage massif de données à un coût total de possession (TCO) optimal. DME Omni-Dataverse, la solution d'espace de données unifiée de l'entreprise, prend en charge l'importation de données multimodales, inter-sites et en temps réel, la visibilité et la gestion globales des données, et la récupération de centaines de milliards de vecteurs de 1 000 dimensions en quelques secondes, permettant une agrégation et un approvisionnement de données de haute qualité.
- Plateforme de connaissances et de mémoire
- Pour les clusters d'inférence à très grande échelle, Huawei présente le premier Stockage de Mémoire Contextuelle (CMS) du secteur qui prend en charge la puissance de calcul hétérogène. Le CMS prend en charge le passage direct sémantique clé-valeur (KV) ou utilise l'unité de traitement des données (DPU) dédiée pour le déchargement sémantique. Il peut s'étendre à un pool de cache KV partagé à l'échelle du Po et réduire le temps de premier jeton (TTFT) de 90 %.
- Pour les scénarios d'inférence d'IA des entreprises, la première plateforme de données d'IA 3+1 du secteur développée par Huawei intègre l'accélération du cache KV, une base de connaissances avec une précision de récupération de plus de 95 % et une banque de mémoire en constante évolution. En outre, le gestionnaire de cache unifié (UCM) de Huawei permet une planification et une gestion transparentes, améliorant la précision de l'inférence de 30 %.
- Ingénierie des modèles et planification des ressources
ModelEngine de Huawei offre une facilité d'utilisation des modèles et des capacités de passerelle de modèles prêts à l'emploi, permettant une adaptation sans code aux nouveaux modèles et un déploiement de modèles en un clic. De plus, grâce à un partitionnement des ressources de calcul granulaire et à une planification intelligente, ModelEngine atteint un ratio de partitionnement xPU de 1:10 pour permettre à un xPU de servir à plusieurs fins, améliorant ainsi l'efficacité des ressources.
La plateforme d'agent Nexent de ModelEngine de Huawei génère directement des agents via une interaction basée sur le langage naturel, simplifiant le développement et réduisant le temps de déploiement de 80 %. Grâce à l'optimisation automatique des compétences, des invites et de la mémoire, Nexent garantit que les agents deviennent plus intelligents grâce à une évolution continue.
- Plateforme de résilience des données
Pour faire face aux risques de sécurité des données entre les agents, les modèles, les plateformes et l'infrastructure, les entreprises doivent mettre en place une solution de protection des données de bout en bout qui empêche la mauvaise utilisation des outils, l'empoisonnement des données, la falsification et les attaques par rançongiciel, assurant ainsi une protection complète des actifs de données d'IA.
"L'IA ouvre de nouvelles opportunités pour l'industrie informatique", a déclaré Yuan, "Le prochain chapitre de l'IA, ce sont les données. Engagée dans l'innovation technologique en matière de stockage de données, Huawei accumulera l'expérience de l'adoption de l'IA industrielle et travaillera en étroite collaboration avec l'ensemble de l'industrie pour aider les clients à accélérer leur transition vers l'ère intelligente."
