Google erkennt über 100.000 Versuche, seine KI-Chatbots Wissen zu stehlen, indem sie Angriffe probieren. Google detects over 100,000 attempts to steal its AI chatbot's knowledge through probing attacks.

Google berichtet über 100.000 automatisierte Aufforderungen in einem groß angelegten Versuch, seine KI-Chatbot Gemini umzukehren, Teil der wachsenden "Destillation" oder "Modell-Extraktion" Angriffe. Google reports over 100,000 automated prompts in a large-scale attempt to reverse-engineer its AI chatbot Gemini, part of growing "distillation" or "model extraction" attacks. Diese Bemühungen, die von privaten Unternehmen und Forschern betrieben werden, zielen darauf ab, proprietäres Wissen zu stehlen, indem sie untersuchen, wie die KI durch Probleme begründet wird. These efforts, believed driven by private companies and researchers, aim to steal proprietary knowledge by probing how the AI reasons through problems. Während Google hat Verteidigungen, öffentlich zugängliche Modelle bleiben anfällig, und Experten warnen ähnliche Bedrohungen könnten auf kleinere Unternehmen mit benutzerdefinierten KI-Systeme auf sensible Daten geschult verbreiten. While Google has defenses, publicly accessible models remain vulnerable, and experts warn similar threats could spread to smaller firms using custom AI systems trained on sensitive data. Die Angriffe erscheinen zwar global, aber Täter wurden nicht identifiziert. The attacks appear global, but perpetrators have not been identified.