Know Center Research

Human-AI Interaction

Welchen Einfluss wird der zunehmende Einsatz von KI und Machine Learning auf Menschen haben? Werden Menschen und KI in Konkurrenz zueinander treten? Oder wird es uns gelingen, durch bewusste Kooperation zwischen Mensch und Maschine die Stärken beider Seiten bestmöglich zu nutzen und zu verstärken?

Human-AI Interaction

Research Fokus

Die Research Area „Human-AI-Interaction" arbeitet an interaktiven Machine Learning-Techniken, immersiver und visueller Analytik sowie an KI-gesteuerten computergestützten Benutzerschnittstellen Methoden, die ein gegenseitiges Verständnis und die Kooperation von Menschen und KI fördern. Damit das gelingen kann, müssen sowohl der Mensch als auch die KI die Möglichkeit haben, miteinander zu kommunizieren, Feedback zu geben und auf der Grundlage dieses Wissens zu handeln. Am Ende steht für uns der Einsatz einer KI, die eine fließende Kooperation zwischen Mensch und Maschine ermöglicht und uns den Freiraum gibt, unsere menschliche Stärke der echten Kreativität einzusetzen.
Human-AI Mixed Initiative Interaction

Im Rahmen dieses Forschungsfeldes werden neuartige Human-in-the-Loop-Methoden (Schnittstellen, Modelle und Systeme) entwickelt, die den Menschen in die Lage versetzen, Informationen über KI-Entscheidungen einzuholen und Feedback zu geben. Genauso wird die  KI in die Lage versetzt, den menschlichen Input einzuholen, um die Leistung des Mensch-Maschine-Teams zu verbessern.

Explainable AI

Das Ziel dieser Forschungsrichtung ist es, erklärbare Algorithmen zu entwickeln und dem Benutzer Methoden zur Interpretation der Lernprozesse und der Argumentation der KI anzubieten. Erklärbare KI spielt eine Schlüsselrolle für Vertrauenswürdigkeit und Akzeptanz der KI. Die Forschung konzentriert sich auf Algorithmen zur Berechnung erklärbarer Merkmale, auf Methoden zu deren Validierung und Analyse sowie auf Methoden zur Erklärung dieser Merkmale in einer verständlichen Form.

Human-Aware AI Models

Unser Ziel ist die Entwicklung intelligenter Systeme, die ihre Handlungen in Bezug auf menschliche Wahrnehmung, Absichten und andere, kontextgebundener Faktoren, „reflektieren“ können. Unser Interesse gilt der Sammlung von Daten und Generierung datengestützter Modelle, um zu verstehen, wie der affektive und emotionale Zustand von Menschen in verschiedenen Interaktionen mit der Technologie aussieht und wie er die Interaktion beeinflusst. Solche Systeme sollen sich an unterschiedliche menschliche Zustände anpassen und gleichzeitig Modelle menschlicher Absichten und Verhaltensweisen erstellen.

Ansprechpartner:innen

Sabol
Vedran Sabol

Research Area Manager Human-AI Interaction

Veas
Eduardo Veas

Research Area Manager Human-AI Interaction

Potenziale

Neue Möglichkeiten der Interaktion

KI Anwendungen können ihr volles Potenzial erst dann entfalten, wenn auch die Interaktion mit den Menschen entsprechend den menschlichen Bedürfnissen gestaltet ist. Umgekehrt sind wir auch überzeugt davon, dass die vertrauenswürdige KI der Zukunft auch neues menschliches Potenzial zu entfalten hilft. Nämlich dann, wenn am richtigen Ort, zum richtigen Zeitpunkt die richtige Information geliefert wird, und damit soziale Prozesse wie etwa Entscheidungsfindung, Multi-Stakeholder-Dialoge oder co-kreative Entwicklungsprozesse in dislozierten, mehrsprachigen Teams bestmöglich unterstützt werden.
Medien-Crawling & -Analyse

Wir können plattformübergreifend und mittels Texterkennung in relevanten digitalen Bibliotheken, (soziale) Medien und Firmenportalen scannen. Domänenspezifische Informationen werden durch die KI extrahiert. Durch den Einsatz  entsprechendender Visualisierungswerkzeuge wird die Analyse unterstützt.

Monitoring Platform

Eine visuelle Benutzerschnittstelle zur Suche, Darstellung und Untersuchung von Themen, Trends, geospezifischen Mustern, Korrelationen und Zusammenhängen. Kann je nach Informationsbedarf sehr genau auf die spezifischen Anforderungen der Benutzer:innen adaptiert werden.

Modellierungstools

Erweiterte Optimierung der KI-gestützten  Textanalyse durch die Verwaltung von  semantischen Modellen, die Eingabe von Benutzerfeedback und Textannotationen (zusätzliche Textinformationen wie Anmerkungen).

Dateneinblicke

Muster in Zeitreihendaten von der KI erkennen (Events, Anomalien) und mit visuellen Schnittstellen inspizieren und untersuchen lassen.

Suche in Zeitreihendatenbanken

Finden von ähnlichen Ergebnissen aus der Vergangenheit in sehr großen Datenbanken, um diese zu vergleichen und daraus zu lernen.

Transparent AI

Wir geben Fachexpert:innen die Möglichkeit, Wissen an die KI mit wenig Aufwand weiterzugeben. Anschließend ist es möglich, KI-Entscheidungen zu verstehen und zu validieren. Gründe für falsche Ergebnisse lassen sich damit ermitteln und beseitigen.

Intelligente Benutzerführung

Eine “user-aware” KI steuert die/den Benutzer:in, in Abhängigkeit von ihren/seinen analytischen Zielen, durch verschiedene Datenanalyseschritte

MAßGESCHNEIDERTE KOLLABORATIVE VISUALISIERUNG

Gemeinsame Textanmerkungen, Diskussion und Bewertung der Ergebnisse durch mehrere Benutzer. Design und Implementierung von spezialisierten, Use Case- und Anforderungsspezifischen Visualisierungskomponenten. Die Erweiterbarkeit des Frameworks (Visualizer) unterstützt schnelles Prototyping von Visual Analytics Lösungen.