Die Dunkle Seite der Sprachanalyse

Erster Workshop “Ethik in der Computerlinguistik“ in Valencia:  Wissenschaftler diskutieren über die Chancen und Gefahren der automatischen Sprachanalyse. HITS-Forscher Michael Strube: „Die wenigsten wissen, wie gut wir unstrukturierte Daten analysieren können.“

Smartphones begleiten uns im Alltag, ob bei der Arbeit oder privat. Wir schreiben damit Mails, posten in den sozialen Netzwerken und erteilen dem Handy Sprachbefehle. Die Kehrseite dieses Vergnügens  vergessen wir nur zu leicht – auch  scheinbar unstrukturierte Daten wie gesprochene Sprache oder „Posts“  in sozialen Netzwerken können heute durch Algorithmen analysiert werden. Und noch mehr: Algorithmen können menschliches Handeln beeinflussen, wie die sogenannten „Chatbots“, die im US-Wahlkampf zum Einsatz kamen.

„Die Wenigsten wissen, wie gut wir unstrukturierte Daten analysieren können“, sagte Computerlinguist Prof. Michael Strube jetzt der „Süddeutschen Zeitung“. Er ist Leiter der Forschungsgruppe „Natural Language Processing“ am HITS und einer der Initiatoren des ersten Workshops zur Ethik in der Computerlinguistik, der am 4. April im Rahmen der Fachkonferenz EACL im spanischen Valencia stattfindet. Michael Strube befasst sich seit einigen Jahren mit der „dunklen Seite“ der Algorithmen und versucht mit Vorträgen, seine Fachkollegen und die Öffentlichkeit für diese Problematik zu sensibilisieren.

Mitinitiatoren des Workshops sind unter anderem der Informatiker Prof. Dirk Hovy von der Universität Kopenhagen sowie Prof. Hanna Wallach, Spezialistin für Maschinelles Lernen und Senior Researcher bei  Microsoft Research.  Die Themen des Workshops reichen von sozialen Vorurteilen über Stereotypen und Geschlechterdiskriminierung bis hin zur Frage, wie man Sprachanalysewerkzeuge so programmiert, dass sie ethischen Standards genügen.  „Was in der biologischen Forschung Standard ist, sollte auch für uns Computerlinguisten selbstverständlich sein“, meint Michael Strube. „Wissenschaftler sollten sich darüber klar werden, wo ihre Forschung missbraucht werden könnte.“

Das Thema in der „Süddeutschen Zeitung“:
http://www.sueddeutsche.de/wissen/kuenstliche-intelligenz-der-computer-als-rassist-1.3432883

Wissenschaftlicher Kontakt:
Prof. Dr. Michael Strube
Natural Language Processing  Group
HITS, Heidelberger Institut für Theoretische Studien
michael.strube@h-its.org
http://www.h-its.org/nlp

Ansprechpartner für die Medien:
Dr. Peter Saueressig
Presse- und Öffentlichkeitsarbeit
HITS, Heidelberger Institut für Theoretische Studien
Tel: +49 6221 533 245
peter.saueressig@h-its.org