Die TorchPass-Software von Clockwork.io verhindert KI-Trainingsabstürze, indem sie eine Live-GPU-Migration ermöglicht und jährlich Millionen in großen KI-Clustern spart. Clockwork.io's TorchPass software prevents AI training crashes by enabling live GPU migration, saving millions annually in large AI clusters.

Clockwork.io hat TorchPass eingeführt, eine Software-Lösung, die Live-GPU-Migration und Fehlertoleranz in großen KI-Trainingsclustern ermöglicht und kostspielige Neustarts bei Hardware-Ausfällen, Netzwerkproblemen oder Treiberfehlern verhindert. Clockwork.io has launched TorchPass, a software solution that enables live GPU migration and fault tolerance in large AI training clusters, preventing costly restarts during hardware failures, network issues, or driver bugs. Das System hält die Trainingskontinuität ohne Checkpointing aufrecht, unterstützt reaktive, proaktive und wartungsbasierte Failover und kann jährlich über 6 Millionen Dollar in einem 2.048-GPU-Setup sparen. The system maintains training continuity without checkpointing, supports reactive, proactive, and maintenance-based failover, and can save over $6 million annually in a 2,048-GPU setup. Da die Ausfallraten in massiven Clustern steigen – die mittlere Zeit bis zum Ausfall auf nur 1,8 Stunden in einem 16.384-GPU-System fallen – verbessert TorchPass die Zuverlässigkeit, die GPU-Auslastung und die Modelltrainingseffizienz. As failure rates rise in massive clusters—dropping mean time to failure to just 1.8 hours in a 16,384-GPU system—TorchPass improves reliability, GPU utilization, and model training efficiency. Early Adopters berichten über eine verbesserte Durchsatz-, Resilienz- und Service-Level-Vereinbarungsleistung und bieten eine softwaregesteuerte Lösung für eine große Kostenbarriere in der KI-Infrastruktur. Early adopters report enhanced throughput, resilience, and service-level agreement performance, offering a software-driven fix to a major cost barrier in AI infrastructure.