Keysight stellt den AI Data Center Builder zur Validierung und Optimierung von Netzwerkarchitektur und Host Design vor

Validierung der Leistung von KI-Infrastruktur durch Emulation von realistischen Workloads

Böblingen, 2. April 2025 – Keysight Technologies stellt Keysight AI (KAI) Data Center Builder vor, eine fortschrittliche Software-Suite, die reale Workloads emuliert, um zu bewerten, wie neue Algorithmen, Komponenten und Protokolle die Leistung des KI-Trainings beeinflussen. Die Workload-Emulationsfunktion von KAI Data Center Builder integriert Large Language Model (LLM) und andere Trainings-Workloads für künstliche Intelligenz (KI) in das Design und die Validierung von KI-Infrastrukturkomponenten – Netzwerke, Hosts und Beschleuniger. Diese Lösung ermöglicht eine engere Synergie zwischen Hardwaredesign, Protokollen, Architekturen und KI-Trainingsalgorithmen und steigert so die Systemleistung. KI-Anwender verwenden verschiedene parallele Verarbeitungsstrategien, auch bekannt als Modellpartitionierung, um das Training von KI-Modellen zu beschleunigen. Die Abstimmung der Modellpartitionierung auf die Topologie und Konfiguration des KI-Clusters verbessert die Trainingsleistung. In der Phase des Designs von KI-Clustern lassen sich kritische Fragen am besten durch Experimente beantworten. Viele dieser Fragen beziehen sich auf die Effizienz der Datenübertragung zwischen den Grafikprozessoren (GPUs). Zu den wichtigsten Überlegungen gehören: Skalierbares Design von GPU-Verbindungen innerhalb eines KI-Hosts oder -Racks Skalierbares Design von Netzwerken, einschließlich Bandbreite pro GPU und Topologie Konfiguration des Lastausgleichs im Netzwerk und der Engpasskontrolle Abstimmung der Parameter des Trainingssystems. Die KAI Data Center Builder Workload-Emulationslösung reproduziert die Netzwerk-Kommunikationsmuster realer KI-Trainingsjobs, um das Experimentieren zu beschleunigen, die für die Beherrschung notwendige Lernkurve zu reduzieren und tiefere Einblicke in die Ursache von Leistungseinbußen zu ermöglichen, was mit realen KI-Trainingsaufträgen allein schwer zu erreichen ist. Keysight-Kunden können auf eine Bibliothek von LLM-Workloads wie GPT und Llama zugreifen, mit einer Auswahl beliebter Modellpartitionierungsschemata wie Data Parallel (DP), Fully Sharded Data Parallel (FSDP) und dreidimensionaler (3D) Parallelität. Die Verwendung der Workload-Emulationsanwendung im KAI Data Center Builder ermöglicht KI-Betreibern: Experimente mit Parallelitätsparametern, einschließlich Partitionsgrößen und deren Verteilung über die verfügbare KI-Infrastruktur (Scheduling) Das Verständnis für die Auswirkungen der Kommunikation innerhalb und zwischen den Partitionen auf die Gesamtdauer der Job Completion Time (JCT) Identifizierung leistungsschwacher Sammeloperationen und Aufschlüsselung zur Ermittlung von Engpässen Analysen der Netzwerkauslastung, Latenzzeiten und Datenstaus, um zu verstehen, wie sie sich auf JCT auswirken Die neuen Workload-Emulationsfunktionen des KAI Data Center Builders ermöglichen es KI-Betreibern, GPU-Cloud-Anbietern und Infrastrukturanbietern, realistische KI-Workloads in ihre Labor-Setups zu bringen, um die sich entwickelnden Designs von KI-Clustern und neuen Komponenten zu validieren. Sie können auch experimentieren, um Modellpartitionierungsschemata, Parameter und Algorithmen fein abzustimmen, um die Infrastruktur zu optimieren und die KI-Workload-Leistung zu verbessern. Ram Periakaruppan, Vice President und General Manager, Network Test & Security Solutions, Keysight, sagte: „Da die KI-Infrastruktur an Umfang und Komplexität zunimmt, wird die Notwendigkeit einer umfassenden Validierung und Optimierung immer wichtiger. Um kostspielige Verzögerungen und Nacharbeiten zu vermeiden, ist es wichtig, die Validierung in frühere Phasen des Design- und Fertigungszyklus zu verlegen. Die Workload-Emulation von KAI Data Center Builder bringt ein neues Maß an Realismus in das Design von KI-Komponenten und -Systemen und optimiert die Workloads für Spitzenleistungen.“ KAI Data Center Builder ist die Grundlage der Keysight Artificial Intelligence (KAI)-Architektur, einem Portfolio von End-to-End-Lösungen, die darauf ausgelegt sind, Kunden bei der Skalierung von Verarbeitungskapazitäten für künstliche Intelligenz in Rechenzentren zu unterstützen, indem KI-Cluster-Komponenten unter Verwendung realer KI-Arbeitslastemulationen validiert werden. Weitere Informationen Produktseite: KAI Data Center Builder

Über Keysight Technologies Bei Keysight inspirieren und befähigen wir Innovatoren, weltverändernde Technologien in die Tat umzusetzen. Als S&P 500-Unternehmen liefern wir marktführende Design-, Emulations- und Testlösungen, die Entwicklern helfen, schneller und mit weniger Risiko zu entwickeln und einzusetzen, und zwar über den gesamten Produktlebenszyklus hinweg. Wir sind ein globaler Innovationspartner, der es Kunden in den Bereichen Kommunikation, Industrieautomation, Luft- und Raumfahrt sowie Verteidigung, Automotive, Halbleiter und allgemeine Elektronik ermöglicht, Innovationen zu beschleunigen, um die Welt zu vernetzen und sicherer zu machen. Erfahren Sie mehr unter www.keysight.com.