Institut de Mathématiques de Marseille, UMR 7373




Rechercher


Accueil >

13 avril 2018: 3 événements

Séminaire

  • Séminaire Signal et Apprentissage

    Vendredi 13 avril 10:00-11:00 - Guillaume RABUSSEAU - McGill University

    Spectral learning of weighted automata : multitask setting and nonlinear extension

    Résumé : Structured objects such as strings, trees and graphs are ubiquitous in data science but learning functions defined over such objects can be a tedious task.
    Weighted automata (WA) are powerfultools that can efficiently model such functions and are thus particularly relevant for machine learning. In particular, the spectral learning algorithm offers an efficient way to learn WA which comes with strong theoretical guarantees.
    In this talk, I will present two recent extensions of the spectral learning algorithm. The first one addresses the multitask learning problem for WA : how can one leverage relatedness between two or more WAs to learn more efficiently ? After introducing the novel model of vector-valued WA (which conveniently helps formalizing this problem), I will show how the spectral learning algorithm can be extended to vector-valued WA and showcase the benefits of this approach with experiments on a natural language modeling task.
    In the second part of the talk I will discuss connections between WA and recurrent neural networks and present a non-linear extension of WA along with a learning algorithm. This learning algorithm can be seen as a non-linear counterpart to the classical spectral learning algorithm, where the factorization of the Hankel matrix is replaced by an auto-encoder network and each transition function is realized by a feed-forward network.

    JPEG - 10.4 ko
    Guillaume RABUSSEAU

    Lieu : CMI, salle de séminaire R164 (1er étage) - I2M - Château-Gombert
    39 rue Frédéric Joliot-Curie
    13453 Marseille cedex 13

    Exporter cet événement
    Document(s) associé(s) :

    En savoir plus : Séminaire Signal et Apprentissage

  • Séminaire Teich

    Vendredi 13 avril 11:00-12:00 - Paul MERCAT - I2M, Aix-Marseille Université

    Systèmes S-adiques toujours à spectre purement discret

    Résumé : Soit S un ensemble fini de substitutions sur un même alphabet A tel qu’il existe une lettre a telle que pour tout s dans S, s(a) commence par a.
    Pour une suite (s_i) de S^\N, on peut alors considérer le mot infini limite de s_1s_2...s_n(a) quand n tend vers l’infini.
    On s’intéresse au sous-shift engendré par ce mot.
    J’ai démontré, en collaboration avec Shigeki Akiyama, que le sous-shift associé à tout mot du système S-adique formé des deux substitutions
    a -> aab
    b -> c
    c -> a
    et
    a -> aba
    b -> c
    c -> a
    est mesurablement conjugué à une translation du tore T^2.
    Cet exemple de système S-adique est particulièrement simple puisque les deux matrices d’incidences sont les mêmes.
    Mais une preuve un peu différente pourrait se généraliser à des systèmes S-adiques plus généraux, avec des matrices différentes, comme par exemple le système S-adique formé des deux substitutions a->ac, b->ab, c->b et a->ab, b->ac, c->a. C’est un travail en cours.
    J’expliquerai la preuve de notre résultat avec Shigeki, qui est écrite et sera bientôt publiée, ainsi que l’idée pour traiter des systèmes S-adiques plus généraux.
    La preuve repose en grande partie sur des calculs d’automates finis.
    J’expliquerai comment on peut décrire une ligne discrète d’un mot provenant d’un système S-adique grâce à un automate fini, et quel est le lien avec les substitutions duales.
    Et nous verrons comment l’on peut démontrer que l’on a un point intérieur exclusif dans un des morceaux de la fractale de Rauzy grâce à des calculs d’automates finis, et pourquoi cela permet d’obtenir la conjugaison mesurée avec une translation du tore T^2.

    JPEG - 12 ko
    Paul MERCAT

    Lieu : FRUMAM - Aix-Marseille Université - Site St Charles
    3, place Victor Hugo - case 39
    13331 MARSEILLE Cedex 03

    Exporter cet événement
    Document(s) associé(s) :

    En savoir plus : Séminaire Teich

  • Séminaire Signal et Apprentissage

    Vendredi 13 avril 14:00-15:00 - Arthur MENSCH - Parietal, INRIA-CEA, Gif-sur-Yvette

    Stochastic subsampling for factorizing huge matrices

    Résumé : We present a matrix-factorization algorithm that scales to input matrices with both huge number of rows and columns. Learned factors may be sparse or dense and/or non-negative, which makes our algorithm suitable for dictionary learning, sparse component analysis, and non-negative matrix factorization. Our algorithm streams matrix columns while subsampling them to iteratively learn the matrix factors. At each iteration, the row dimension of a new sample is reduced by subsampling, resulting in lower time complexity compared to a simple streaming algorithm. Our method comes with convergence guarantees to reach a stationary point of the matrix-factorization problem. We demonstrate its efficiency on massive functional Magnetic Resonance Imaging data (2 TB), and on patches extracted from hyperspectral images (103 GB). For both problems, which involve different penalties on rows and columns, we obtain significant speed-ups compared to state-of-the-art algorithms.

    Lieu : CMI, salle de séminaire R164 (1er étage) - I2M - Château-Gombert
    39 rue Frédéric Joliot-Curie
    13453 Marseille cedex 13

    Exporter cet événement

En savoir plus : Séminaire Signal et Apprentissage

13 avril 2018: 1 événement

groupe de travail

  • Agenda ERC IChaos

    Du 13 au 22 avril - A.BUFETOV, Y.QIU, P.NIKITIN & T.CECCHERINI-SILBERSTEIN

    Small group of work

    Lieu : Rome - Italie

    Exporter cet événement

En savoir plus : Agenda ERC IChaos