Zico Kolter, Professorin für Carnegie Mellon, leitet das Sicherheitskomitee von OpenAI, das die KI-Freisetzungen stoppen kann, um die Sicherheit während des Übergangs zu einer gemeinnützigen Einrichtung zu gewährleisten. Zico Kolter, a Carnegie Mellon professor, leads OpenAI’s safety committee, which can halt AI releases to ensure safety during its transition to a for-profit entity.

Zico Kolter, 42-jähriger Informatikprofessor an der Carnegie Mellon University, leitet das OpenAI-Sicherheitskomitee, ein vierköpfiges Gremium mit der Befugnis, KI-Freigaben als unsicher zu stoppen. Zico Kolter, a 42-year-old computer science professor at Carnegie Mellon University, leads OpenAI’s Safety and Security Committee, a four-member panel with the power to halt AI releases deemed unsafe. Seine Rolle wurde vor über einem Jahr ernannt und wurde zu einer Schlüsselanforderung für den Übergang von OpenAI 2025 zu einer gemeinnützigen Gesellschaft mit gemeinnützigem Zweck, die von den Regulierungsbehörden in Kalifornien und Delaware beauftragt wurde. Appointed over a year ago, his role became a key requirement for OpenAI’s 2025 transition into a for-profit public benefit corporation, mandated by California and Delaware regulators. Die Vereinbarungen stellen sicher, dass Sicherheitsentscheidungen Vorrang vor finanziellen Zielen haben, wobei Kolter volle Beobachtungsrechte an gemeinnützigen Vorstandssitzungen und Zugang zu Sicherheitsdaten eingeräumt werden. The agreements ensure safety decisions take precedence over financial goals, granting Kolter full observation rights to for-profit board meetings and access to safety data. Der Ausschuss befasst sich mit Risiken wie KI-Missbrauch in der Waffenentwicklung, Cyberangriffen und psychischen Gesundheitsschäden. The committee addresses risks including AI misuse in weapons development, cyberattacks, and mental health harm. Während Kolter ablehnte zu bestätigen, ob das Panel jemals eine Freigabe blockiert hat, betonte er die wachsende Bedrohungslandschaft der fortgeschrittenen KI. While Kolter declined to confirm if the panel has ever blocked a release, he emphasized the growing threat landscape of advanced AI. Seine Führung spiegelt eine gesteigerte Kontrolle wider, während OpenAI seinen Wechsel von gemeinnütziger Mission zu kommerziellem Unternehmen navigiert. His leadership reflects heightened scrutiny as OpenAI navigates its shift from nonprofit mission to commercial enterprise.