language technology
Events
Effective, Fair, and Inclusive Language Technology — Towards Understanding the Role of Social Factors - NAIL Research Seminar #18
Recently, language technology has seen tremendous advancements due to the development and use of language models, large machine learning models pre-trained on large amounts of textual data. However, while how humans express themselves in language and how they perceive language is largely driven by their individual sociodemographic and sociocultural backgrounds, language models still only partially account for these social aspects. In this talk, I argue that we should consider these social factors more when researching and applying language technology. Concretely, I will discuss some of our recent works relating to effectiveness, fairness, and inclusiveness, which will illustrate the critical role of social factors in natural language processing.
The lecture will be followed by a discussion on the topic. The event will be held in English and will take place in person. You can also participate online by registering your participation via mail.
Institutions
- Network for Artificial Intelligence and Law (NAIL)
KI-Methoden im Akademienprogramm: Potenziale und Anwendungsszenarien
Um Methoden aus dem Bereich der Künstlichen Intelligenz adäquat in der Forschung anwenden zu können, ist es erforderlich, sie in ihren Grundzügen zu verstehen und idealerweise aktiv (spielerisch) zu erproben.
- Welche Verfahren gibt es überhaupt und wie funktionieren sie technisch?
- Wo kommen sie im Akademienprogramm bereits zum Einsatz, wie können Forschende voneinander lernen und Synergien nutzen?
- Profitieren die Geisteswissenschaften nur von den neueren Entwicklungen im Bereich Generativer KI oder leisten sie auch einen Beitrag zur KI-Entwicklung?
Die Themenkonferenz, die von der Akademie der Wissenschaften in Hamburg und der Niedersächsische Akademie der Wissenschaften zu Göttingen ausgerichtet wird, möchte sich diesem Spannungsfeld widmen. Teilnehmende haben die Möglichkeit, die Potenziale neuer Methoden für die Analyse und Aufbereitung digitaler Ressourcen, speziell im Akademienprogramm, gemeinsam zu erörtern und zu erproben.
Um einen Überblick zur (auch geplanten) Verwendung von KI-Methoden zu geben, laden wir Angehörige der Unionsakademien und Langzeitvorhaben im Akademienprogramm herzlich ein, einen Impuls-/Kurzvortrag oder einen Vorschlag für eine Hands-On-Session oder Systemdemonstration beizusteuern (s. vorläufiges Programm).
Vorschläge (i.d.R. nicht mehr als zwei pro Akademie) können bis zum 30. Juni 2024 formlos an ki@akademie-der-wissenschaften-in-hamburg.de gesendet werden. Es ist vorgesehen, die Foliensätze der Beiträge auf Zenodo zu veröffentlichen.
Vorläufiges Programm hier
Mittels KI den neuronalen Mechanismen von Sprachverarbeitung auf der Spur
Künstliche Intelligenz (KI) ist aktuell in aller Munde: insbesondere in der Informationstechnologie sorgt sie für fast täglich für Schlagzeilen. Mit John Hopfield von der Princeton University in den USA und Geoffrey Hinton von der University of Toronto in Kanada wurden in diesem Monat zwei Pioniere (aber auch Kritiker) künstlicher neuronaler Netzwerke mit dem diesjährigen Nobelpreis für Physik geehrt.
Längst hat KI alle Wissenschaftsbereiche erreicht. Ihre Anwendung in der Neurowissenschaft ist Gegenstand des Vortrages von Prof. Dr. Tobias Reidenbach.
Prof. Reidenbach hat den Lehrstuhl für Sensorische Neurotechnologie im Department Artificial Intelligence in Biomedical Engineering der Friedrich-Alexander-Universität Erlangen-Nürnberg inne.Dort untersucht er, wie unser Gehirn komplexe sensorische Reize, wie beispielsweise Sprachsignale verarbeitet, und daraus abstrakte Information extrahiert.
Im Vortrag wird Prof. Reidenbach seine Forschung an smarten Hörgeräten, die automatisch Hintergrundrauschen unterdrücken, erläutern. Als Analysewerkzeug kommen tiefe neuronale Netzwerke zum Einsatz. Sie sind klassischen statischen Methoden in der Mustererkennung oftmals überlegen. Dafür ist allerdings eine sorgfältige Trainingsphase unbedingte Voraussetzung. Ziel der Forschung ist die Entwicklung neuer Technologien, die in der Klinik oder im Alltag Menschen mit sensorischen Störungen helfen können.
Die Veranstaltung findet in Kooperation mit dem VDI-Bezirksverein Hamburg statt.
Institutions
- UHH, Fachbereich Mathematik
Recent Work in Speech and Language Technology
Sebastian Möller, German Research Center forr Artificial Intelligence (DFKI) Berlin and Quality and Usability Lab, TU Berlin
In this overview talk, I would like to shed light on recent activities our teams have performed in speech and language technologies, and in human-machine interaction in a larger sense. We start from core technologies for extracting information from text, which we use to detect disinformation, which we consider as a hybrid task, and analyze how human evaluators can be supported best using machine classifiers. This requires explanations of model behavior, which we address via textual and dialogic explainability. Spoken and written dialog and its evaluation is also another topic of our research. On the speech side, we continue with our dimension-based speech quality assessment framework, which is also useful for disentangling speaker characteristics, used e.g. in speaker anonymization. We also work on the effect of listener characteristics on speech quality, as well on evaluating speech quality in a conversational scenario. Finally, I briefly summarize some work on XR interfaces, used e.g. for conveying sign language. The models and tools we use in our research are commonly shared with the community, both on a national and european level.
We are going to provide a livestream during the lecture. For the access data please register at https://mail-mm01.rrz.uni-hamburg.de/mailman/listinfo/kolloquium.
Institution
Where do you come from, ChatGPT? – Einführung in die Funktionsweise von Sprachmodellen
Öffentlicher Abendvortrag, Prof. Dr. Christian Biemann (Universität Hamburg) im Rahmen der Themenkonferenz "KI-Methoden im Akademienprogramm: Potenziale und Anwendungsszenarien"
In diesem Vortrag tasten wir uns an die Funktionsweise von großen Sprachmodellen heran. Wie verlief die Entwicklung von einfacher Statistik bis hin zu (künstlich) intelligenten Dialogsystemen? Welche Mechanismen, welche technischen Voraussetzungen und welcher menschliche Input sind erforderlich, um bei der derzeit verfügbaren Sprachkompetenz das höchste Niveau zu erreichen?
Was machen diese Modelle noch falsch und wie sehen die vorhersehbaren Entwicklungen der nächsten Jahre aus? Und was bedeutet das für die Erschließung, Erforschung und Sicherung des kulturellen Erbes?
Chris Biemann ist seit 2016 Professor für Sprachtechnologie im Fachbereich Informatik und seit 2021 Direktor im Hub of Computing and Data Science, beides an der Universität Hamburg. In dieser Funktion gestaltet und unterstützt er die digitale Transformation in der Forschung für alle natur- und geisteswissenschaftlichen Disziplinen durch methodischen Service und durch die Förderung interdisziplinärer Projekte zwischen digital-methodischen Fächern und deren Anwendungsdisziplinen.
Der Eintritt zur Veranstaltung ist frei. Für die Teilnahme ist eine Anmeldung erforderlich unter veranstaltungen@awhamburg.de. Sie erhalten von uns eine Bestätigung.
Why do I still need to grade all those exams? – Automatically scoring free-text student answers
Giving feedback on free-text answers (in the form of grades or helpful hints) is a core educational task. Despite a large body of NLP research on the topic, assisting teachers with this task remains challenging. In this talk, we outline the linguistic and external factors influencing the performance level that NLP methods may reach for a given question. However, even in settings where automatic performance rivals humans, there are various practical requirements often overlooked in research that hinder adoption in the classroom and beyond.
Torsten Zesch a full professor of Computational Linguistics at CATALPA (Center of Advanced Technology for Assisted Learning and Predictive Analytics), FernUniversität in Hagen, Germany. He holds a doctoral degree in computer science from Technische Universität Darmstadt and was the president of the German Society for Computational Linguistics and Language Technology (GSCL) from 2017 to 2023. His main research interests are in educational natural language processing, in particular the ways in which teaching and learning processes can be supported by language technology. For this purpose, he develops methods for the automatic analysis of textual and multimodal language data, with a focus on robust and explainable models.
Institutions
- UHH, FB Informatik
Universität Hamburg
Adeline Scharfenberg