Studie zeigt, dass KI-Systeme keine Ausbildung in Empathie und Ethik haben und eine neue Methode zur Angleichung der KI an gesellschaftliche Werte vorschlagen. Study reveals AI systems lack training in empathy and ethics, proposing a new method to align AI with societal values.

Forscher der Purdue Universität fanden heraus, dass KI-Systeme in erster Linie auf Informations- und Gebrauchswerten geschult werden, wobei sie oft prosoziale, wohlbefindende und bürgerliche Werte übersehen. Researchers from Purdue University found that AI systems are trained primarily on information and utility values, often overlooking prosocial, well-being, and civic values. Die Studie untersuchte drei Datensätze, die von großen AI-Unternehmen verwendet wurden, und fand einen Mangel an Schulungen zu Empathie, Gerechtigkeit und Menschenrechten. The study examined three datasets used by major AI companies and found a lack of training on empathy, justice, and human rights. Das Team führte eine Methode ein, die Verstärkungslernen aus menschlichem Feedback genannt wird, um KI-Systeme mit gesellschaftlichen Werten in Einklang zu bringen und kuratierte Datensätze zu verwenden, um ethisches Verhalten zu gewährleisten und den Werten der Gemeinschaft besser zu dienen. The team introduced a method called reinforcement learning from human feedback to help AI systems align with societal values, using curated datasets to ensure ethical behavior and better serve community values.