ThroughLine-Startup erkennt und leitet ChatGPT-Nutzer, die Anzeichen von gewalttätigem Extremismus zeigen, zu deradialisierungsressourcen um. ThroughLine startup detects and redirects ChatGPT users showing signs of violent extremism to deradicalization resources.

Ein neuseeländisches Startup, ThroughLine, entwickelt ein Tool zur Erkennung und Umleitung von Chatbot-Nutzern wie ChatGPT, die Anzeichen gewalttätigen Extremismus auf menschliche und KI-gestützte Deradikalisierungsressourcen hinweisen. A New Zealand startup, ThroughLine, is developing a tool to detect and redirect users of chatbots like ChatGPT showing signs of violent extremism toward human and AI-supported deradicalization resources. Unterstützt von OpenAI, Google und Anthropic zielt die Initiative darauf ab, gefährdete Benutzer mit Hilfelinien in der realen Welt zu verbinden und spezialisierte Unterstützung anstatt sie zu blockieren. Sie geht damit auf Bedenken ein, dass aggressive Moderation Extremisten auf unregulierte Plattformen drängen könnte. Backed by OpenAI, Google, and Anthropic, the initiative aims to connect at-risk users to real-world helplines and specialized support rather than blocking them, addressing concerns that aggressive moderation could push extremists to unregulated platforms. Das Projekt befindet sich in einem frühen Stadium und hat noch kein Datum für die Veröffentlichung. The project is in early stages with no release date set.