Australische Firmen warnten vor AI-Risiken, nachdem DeepSeek mehr Mängel bei sensiblen Themen verursachte. Australian firms warned on AI risks after DeepSeek generated more flaws on sensitive topics.

Australische Unternehmen werden gewarnt, vorsichtig mit ausländischen KI-Tools vorzugehen, nachdem CrowdStrike das chinesische DeepSeek KI-Modell gefunden hat, das mit politisch sensiblen Begriffen wie Tibet, Taiwan, Falun Gong und Uiguren deutlich mehr Sicherheitsmängel im Code erzeugt hat. Australian companies are being warned to proceed cautiously with foreign AI tools after cybersecurity firm CrowdStrike found China’s DeepSeek AI model generated significantly more security flaws in code when prompted with politically sensitive terms like Tibet, Taiwan, Falun Gong, and Uyghurs. Das Modell war 50 % wahrscheinlicher, verwundbaren Code – wie fehlende Sitzungsverwaltung – zu diesen Themen zu erzeugen, während es sicheren Code für neutrale Anfragen lieferte. The model was 50% more likely to produce vulnerable code—such as missing session management—on these topics, while delivering secure code for neutral requests. In einigen Fällen weigerte er sich zu reagieren und schlug einen möglichen eingebauten "Kill-Switch" vor. In some cases, it refused to respond, suggesting a possible built-in "kill switch." Diese Erkenntnisse, die ersten ihrer Art, wecken Bedenken über ideologische Einflüsse, die die Sicherheit und Zuverlässigkeit von KI beeinträchtigen. These findings, the first of their kind, raise concerns about ideological influences compromising AI safety and reliability. Die Forschung kommt, als Australien sich darauf vorbereitet, sein AI Safety Institute zu starten und die globale Prüfung der KI-Governance zu intensivieren. The research comes as Australia prepares to launch its AI Safety Institute and global scrutiny of AI governance intensifies.