Anthropoc stellt Prompt Caching für Chatbot Claude vor, wodurch Kosten und Reaktionszeiten reduziert werden.

Anthropoc führt ein neues Feature, Prompt Caching, für sein KI-Chatbot Claude ein, das die Kosten um bis zu 90% und die Reaktionszeiten um zwei Mal reduziert. Die Funktion ermöglicht es Entwicklern, detaillierte Anweisungen, Beispielantworten und relevante Informationen zu speichern, von denen komplexe Projekte und Unternehmen aller Größen profitieren. Derzeit in der öffentlichen Beta-Phase durch Anthropoc API, Prompt Caching verbessert die Leistung in Anwendungen wie erweiterte Gespräche, große Dokumentenverarbeitung und Codierung Assistenten.

August 14, 2024
4 Artikel

Weiterführende Lektüre