Cloudera bringt NVIDIA-gestützten AI-Inferenz-Service für die großangelegte KI-Modellbereitstellung auf den Markt.

Cloudera hat seinen AI-Inference-Dienst, der von NVIDIAs NIM-Mikroservices betrieben wird, eingeführt, um die Bereitstellung und Verwaltung von KI-Großmodellen zu verbessern. Dieser Service zielt darauf ab, den Übergang von Generative KI vom Piloten zur Vollproduktion zu erleichtern und bietet verbesserte Leistung, robuste Sicherheit und Skalierbarkeit. Es unterstützt verschiedene KI-Anwendungen, einschließlich LLMs, und bietet Funktionen für die Hybrid-Cloud-Bereitstellung, Echtzeitüberwachung und Enterprise-Grade-Sicherheit.

October 08, 2024
21 Artikel