Geometry and Representation Learning

24.09.2021
Analyse der Struktur von Graphen für reale Datensätze, BIO-DISEASOME (links), CSPHD (Mitte) und FACEBOOK (rechts). Unsere Methode unterscheidet dichter verbundene Teile der Graphen (blau/grün in BIO-DISEASOME und FACEBOOK) von weniger verbundenen, baumstrukturähnlichen Teilen (gelb in CSPHD).

In den letzten Jahren ist das Interesse an der hyperbolischen Geometrie in der Datenanalyse und im maschinellen Lernen für das „Representation learning“, also das Lernen von Darstellungen mittels Einbettungen von Graphen, und für die Konstruktion sogenannter hyperbolischer neuronaler Netze gewachsen.

Das Erlernen von Graphenrepräsentationen mit niedrigdimensionalen Einbettungen ist ein wichtiges Problem beim maschinellen Lernen, da in vielen Situationen (z. B. in der Linguistik, Evolutionsbiologie, in Computernetzwerken usw.) Daten einer (teilweise hierarchischen) Graphenstruktur vorliegen. Hyperbolische Räume bieten oftmals bessere Umgebungsräume für die Einbettung von Graphen als euklidische Räume, da letztere nicht so viel Platz für das exponentielle Wachstum vieler Graphen und Bäume bieten.

Im Jahr 2020 begann die beiden Gruppen GRG und NLP, gemeinsam die komplizierteren nicht-euklidischen Geometrien zu erforschen, die sich aus symmetrischen Räumen ergeben. Eine erste Arbeit, in der wir einen systematischen Rahmen und Metriken für das Lernen von Grapheneinbettungen in symmetrischen Räumen vorschlagen, wurde im Juni 2021auf der International Conference on Machine Learning (ICML 2021) veröffentlicht.

Beteiligte:

Michael Strube (NLP)
Anna Wienhard (GRG)

Mitglieder:
Federico Lopez (NLP)

Publikationen:
„Symmetric Spaces for Graph Embeddings: A Finsler-Riemannian Approach“ (accepted to ICML 2021 Conference) https://arxiv.org/abs/2106.04941
„Hermitian Symmetric Spaces for Graph Embeddings“, presentation in the NeurIPS 2020 workshop on Differential Geometry meets Deep Learning, arXiv:2105.05275
„Vector-valued Distance and Gyrocalculus on the Space of Symmetric Positive Definite Matrices“ (accepted for a spotlight presentation at NeurIPS2021) https://arxiv.org/abs/2110.13475

Kooperationspartner:
Maria Beatrice Pozzetti (Universität Heidelberg)
Steve Trettel (Stanford University)

Zur englischen Seite wechseln oder auf dieser Seite bleiben.