KI-Starter - Explaining AI Predictions of Semantic Relationships

Explaining AI ist ein CATALPA Projekt.

Künstliche Intelligenz als Black-Box? Automatische Bewertungsalgorithmen, die Lernerantworten zuverlässig bewerten können, schaffen wichtige Kapazitäten bei Lehrenden im Bildungsbereich. Doch was, wenn Lernende mit dem Feedback nichts anfangen können? Explaining AI erforscht Methoden, um künftig hilfreiches Feedback mittels KI generieren zu können.


Projektziele und Forschungsfragen

Ziel des Projekts ist die Erforschung von Ansätzen zur Erklärbarkeit der Vorhersage von Künstlicher-Intelligenz-Verfahren in der Sprachtechnologie. Ein wichtiges Grundlagenverfahren in der Sprachtechnologie die Vorhersage der semantischen Beziehung zwischen zwei Aussagen, z.B. Äquivalenz oder Entailment. Existierende KI-Verfahren können diese Beziehung zwar vorhersagen, aber nicht begründen.

Wir bearbeiten dieses Problem am Beispiel von automatischen Bewertungsalgorithmen im Bildungsbereich, bei denen eine Lernerantwort durch den semantischen Vergleich mit einer vorgegebenen Musterantwort automatisch bewertet werden kann, bestehende Verfahren aber nicht in der Lage sind, hilfreiches Feedback für die Lernenden zu erzeugen. Mit Hilfe der im Projekt erforschten Methoden soll dies in Zukunft möglich sein.

  • Dr. Andrea Horbach

  • Das Projekt wird gefördert durch das Land NRW im Rahmen des Förderprogramms „KI-Starter“ (zur Pressemitteilung)

    • Viet Nguyen (studentische Hilfskraft)
    • Finn Brodmann (studentische Hilfskraft)
    • Joey Pehlke (studentische Hilfskraft)
  • Die ersten Veröffentlichungen aus dem Projekt sind derzeit in Arbeit.