KI "prompt Injektion" Fehler lassen Rivalen wie China und Russland hacken Systeme durch täuschenden Text, Risiko von Datenlecks und Desinformation. AI "prompt injection" flaws let rivals like China and Russia hack systems via deceptive text, risking data leaks and disinformation.

Militärexperten warnen davor, dass eine weit verbreitete KI-Verwundbarkeit namens "Prompt-Injection" es Gegnern wie China und Russland ermöglicht, Chatbots und KI-Agenten auszunutzen, indem sie bösartige Befehle in scheinbar normalem Text verstecken, was zu Datendiebstahl, Desinformation oder Systemmanipulation führt. Military experts warn that a widespread AI vulnerability called "prompt injection" allows adversaries like China and Russia to exploit chatbots and AI agents by hiding malicious commands in seemingly normal text, leading to data theft, disinformation, or system manipulation. Diese Angriffe betrügen KI in die Ausführung schädlicher Aktionen, wie z. B. undichte Dateien oder die Verbreitung falscher Informationen, weil Modelle nicht zwischen legitimen und bösartigen Eingaben unterscheiden können. These attacks trick AI into executing harmful actions, such as leaking files or spreading false information, because models cannot distinguish between legitimate and malicious inputs. Vorfälle wurden in Tools wie Microsoft-Copilot und OpenAI-ChatGPT-Atlas gefunden, mit Unternehmen, die das Risiko anerkennen, aber keine vollständige Fixierung gibt es. Incidents have been found in tools like Microsoft’s Copilot and OpenAI’s ChatGPT Atlas, with companies acknowledging the risk but admitting no complete fix exists. Experten empfehlen, AI-Zugang zu sensiblen Daten zu beschränken und Überwachung für abnormes Verhalten, um Schäden zu reduzieren, da KI-Agenten – jetzt in der Lage zu autonomen Aufgaben – neue Cybersicherheitsbedrohungen einführen, die die derzeitigen Schutzmaßnahmen übertreffen. Experts recommend limiting AI access to sensitive data and monitoring for abnormal behavior to reduce damage, as AI agents—now capable of autonomous tasks—introduce new cybersecurity threats that outpace current safeguards.