Kong Inc. veröffentlicht Kong AI Gateway 3.8, ein schnelleres und sichereres API-Infrastruktur-Update für generative KI-Anwendungen auf dem API Summit 2024.
Kong Inc. hat Kong AI Gateway 3.8 ins Leben gerufen und seine API-Infrastruktur für generative KI-Anwendungen erweitert. Zu den wichtigsten Funktionen gehören Semantic Caching für bis zu 20x schnellere Reaktionen, ein Semantic Prompt Guard für Sicherheit und Semantic Routing für eine optimale Modellauswahl. Das auf dem API Summit 2024 eingeführte Update steigert die Effizienz und reduziert die Kosten. Es integriert sich in AWS- und Google-KI-Ökosysteme, um das API-Management und die Produktivität der Entwickler zu verbessern.
September 11, 2024
6 Artikel