IU Incubator Wie menschlich ist generative KI?

Chatbots sind zunehmend in unserem Alltag präsent und können menschenähnliche Gespräche simulieren, Informationen bereitstellen und fachliche oder emotionale Unterstützung bieten. OpenAI's ChatGPT hat sich als besonders erfolgreich herausgestellt und erreichte innerhalb einer Woche nach Veröffentlichung über eine Million Benutzer. Die Interaktion mit Chatbots kann in zwei Dimensionen unterteilt werden: Rationalität und Emotionalität.

• Rationalität bezieht sich auf die Fähigkeit, logisch und objektiv zu denken und zu handeln. Sie ist wichtig für das Vertrauen der Benutzer in die Technologie. Allerdings stellen Textgenerierung und Trennung von menschen- und maschinengenerierten Texten Herausforderungen dar, insbesondere im Hinblick auf Plagiarismus und Fake News.

• Emotionalität untersucht die Fähigkeit, menschenähnliche Emotionen auszudrücken und empathisch zu sein. Ein emotionaler Chatbot kann mit Nutzern persönlicher kommunizieren und so das Nutzererlebnis verbessern, vor allem, wenn emotionale Unterstützung benötigt wird, wie in psychologischen Beratungen oder Stresssituationen.

  
  

Eine ausgewogene Kombination von Emotionalität und Rationalität ist in der Mensch-Maschine Interaktion von zentraler Bedeutung. Ein zu rationaler Chatbot könnte als kalt oder distanziert wahrgenommen werden, während ein zu emotionaler Chatbot möglicherweise als nicht ausreichend kompetent empfunden wird.

Im Rahmen des Incubator-Projektes sollen die beiden Dimensionen – Rationalität und Emotionalität – von Systemen wie ChatGPT aufgegriffen und eingehend untersucht werden. Dies umfasst mehrere Komponenten. Zum einen sollen die empathischen Fähigkeiten von ChatGPT untersucht und analysiert werden, sowie Wege aufgezeigt werden, wie ein ausgewogenes Maß an Emotionalität in die Interaktion mit dem Nutzer integriert werden kann. Des weiteren ist auch die Untersuchung der Rationalität von ChatGPT ein Kernbestandteil des Inkubator-Projekts. Es sollen Features herausgearbeitet werden, die kennzeichnend für KI-generierte und Mensch-generierte Texte sind. Diese Features können sowohl für die Entwicklung von KI-basierten Klassifikatoren zur Erkennung KI-generierter Texte – und somit auch zur Erkennung von Plagiaten, Fake News und Spam – genutzt werden, als auch um zukünftige Textgenerierung noch menschenähnlicher zu gestalten.

Aus der Vorhabensbeschreibung leiten sich folgende konkreten Forschungsfragen ab:

1. Welche Features können verwendet werden, um KI-generierte Texte zuverlässig von Mensch-generierten Texten zu unterscheiden?

2. Über welche empathischen Fähigkeiten verfügen Systeme wie ChatGPT und wie können diese sinnvoll quantifiziert werden?

3. Wie müssen KI-generierte Texte in Hinblick auf Rationalität (Wissensgehalt) und Emotionalität (Empathie) gestaltet sein, um einen größtmöglichen Nutzen zu erzielen und wie müssen entsprechende Prompts gestaltet werden?