Wissenschaftler warnen KI-Chatbots wie ChatGPT-Trick-Benutzer mit menschlichen Gesprächen, aber es fehlt an echtem Verständnis.
Amerikanische Wissenschaftler betonen, dass Menschen oft KI-Chatbots wie ChatGPT für intelligente Wesen aufgrund ihrer menschenähnlichen Konversationsfähigkeiten verwechseln. Diese KI-Systeme sind zwar hervorragend in der Anwendung von Sprachregeln und der Bereitstellung relevanter Informationen, aber oft scheitern sie daran, wahrheitsgetreue Informationen bereitzustellen. Der Erfolg dieser Chatbots hängt von der Tendenz des Menschen ab, sich zu anthropomorphisieren und den kooperativen Prinzipien des Gesprächs zu folgen, wie sie der Philosoph Paul Grice skizzierte. Die Nutzer werden aufgefordert, sich daran zu erinnern, dass diese Systeme reine Sprachmodelle sind, denen es an echtem Verständnis oder Denken mangelt.