FLEXI - FernUni LLM Experimental Infrastructure
Foto: Yuchiro Chino/Getty Images
Das Projekt FLEXI (FernUni LLM Experimental Infrastructure) an der FernUniversität in Hagen stellt eine offene Infrastruktur für große Sprachmodelle (LLMs) bereit. Ziel ist es, innovative Experimente und Forschung im Hochschulbereich zu ermöglichen und die Vorteile von lokal betriebenen, offenen LLMs gegenüber kommerziellen Cloud-Diensten zu evaluieren.
FLEXI bietet maximalen Datenschutz, da alle Daten innerhalb der universitären IT-Infrastruktur verbleiben. Die Plattform unterstützt verschiedene Anwendungsfälle wie Chatbots, Retrieval-Augmented Generation (RAG), API-Zugriff sowie Moodle-Integration und ermöglicht so vielfältige Einsatzmöglichkeiten in Lehre und Forschung. Das Projekt wird kontinuierlich weiterentwickelt und liefert wertvolle Erkenntnisse zur Skalierung, Wartung und zum rechtlichen Rahmen für den universitätsweiten Betrieb offener KI-Systeme.
News-Beitrag: FLEXI - Orientierungshilfe in Sachen lokales Hosting von LLMs
Wie umgehen mit KI in der Hochschullehre? Welche Zugänge sollten Hochschulen Lehrenden und Lernenden zentral zur Verfügung stellen? Im Rahmen des Projekts FLEXI (FernUni LLM Experimental Infrastructure) widmet sich Torsten Zesch mit einem interdisziplinären Team der Erprobung und Nutzung lokal betriebener Large Language Models (LLM).
-
-
Zesch, T., Hanses, M., Seidel, N., Aggarwal, P., Veiel, D., & de Witt, C. (2024). Flexible LLM Experimental Infrastructure (Flexi) – Enabling Experimentation and Innovation in Higher Education Through Access to Open LLMs. In 2024 21st International Conference on Information Technology Based Higher Education and Training (ITHET) (pp. 1–8). IEEE.https://doi.org/10.1109/ITHET61869.2024.10837635
-
-
