OpenAI startet ein neues Safety Bug Bounty-Programm, um die Risiken von KI-Missbrauch zu identifizieren. OpenAI launches new Safety Bug Bounty program to identify AI abuse risks.

OpenAI hat ein neues Safety Bug Bounty-Programm gestartet, um KI-Missbrauchsrisiken zu identifizieren und sein bestehendes Sicherheitsprogramm zu ergänzen. OpenAI has launched a new Safety Bug Bounty program to identify AI abuse risks, complementing its existing security program. Die Initiative konzentriert sich auf Themen wie das Entführen von KI-Agenten für Schäden, die Enthüllung proprietärer Informationen und das Umgehen von Anti-Automation-Kontrollen. The initiative focuses on issues like hijacking AI agents for harm, exposing proprietary information, and bypassing anti-automation controls. Die Forscher können für umsetzbare Erkenntnisse belohnt werden, wobei die Umgehung der allgemeinen Inhaltsrichtlinien ausgeschlossen ist, sofern sie keinen direkten Schaden verursachen. Researchers can earn rewards for actionable findings, though general content-policy bypasses are excluded unless they cause direct harm.