6 votes

Version parallèle de t-SNE

Y a-t-il une bibliothèque Python avec une version parallèle de l'algorithme t-SNE ? Ou est-ce que l'algorithme t-SNE multicore/parallèle existe ?

Je cherche à réduire la dimension (300d -> 2d) de tous les word2vecs dans mon vocabulaire en utilisant t-SNE.

Problème: la taille du vocabulaire est d'environ 130000 et cela prend trop de temps pour effectuer t-SNE pour eux.

6voto

JulianS Points 118

Oui, il existe une version parallèle de l'implémentation de Barnes-Hut de t-SNE. https://github.com/DmitryUlyanov/Multicore-TSNE

Il existe également une nouvelle implémentation de tSNE qui utilise une fonction de transformée de Fourier rapide pour accélérer significativement l'étape de convolution. Elle utilise également la bibliothèque ANNOY pour effectuer la recherche des voisins les plus proches, la méthode par défaut basée sur des arbres est également présente et les deux tirent parti du traitement parallèle.

Le code original est disponible ici : https://github.com/KlugerLab/FIt-SNE

et une version du package R ici : https://github.com/JulianSpagnuolo/FIt-SNE

Prograide.com

Prograide est une communauté de développeurs qui cherche à élargir la connaissance de la programmation au-delà de l'anglais.
Pour cela nous avons les plus grands doutes résolus en français et vous pouvez aussi poser vos propres questions ou résoudre celles des autres.

Powered by:

X