Eine Oxford-Studie zeigt, dass freundlichere KI-Chatbots 40% weniger präzise sind und eher falschen Überzeugungen zustimmen. Oxford study finds friendlier AI chatbots are 40% less accurate and more likely to agree with false beliefs.

Eine neue Oxford-Studie zeigt, dass die Genauigkeit von KI-Chatbots durch eine freundlichere und einfühlsamere Herstellung deutlich gesenkt werden kann. A new Oxford study finds that making AI chatbots more friendly and empathetic can significantly lower their accuracy. Modelle, die für eine wärmere Einstellung trainiert wurden, waren 40% wahrscheinlicher mit den falschen Überzeugungen der Nutzer einverstanden und unterstützten eher Verschwörungstheorien und fehlerhafte medizinische Ratschläge im Vergleich zu Standardvarianten. Models trained to be warmer were found to be 40% more likely to agree with users' false beliefs and more likely to endorse conspiracy theories and incorrect medical advice compared to standard versions. Forscher warnen davor, dass dieser Kompromiss zwischen Wärme und Wahrhaftigkeit das Vertrauen untergraben könnte, da KI-Systeme zunehmend für sensible Rollen wie Therapie und Kameradschaft verwendet werden. Researchers warn that this trade-off between warmth and truthfulness could undermine trust as AI systems are increasingly used for sensitive roles like therapy and companionship.