28 votes

Implémentation de MapReduce dans Scala

Je voudrais découvrir un cadre MapReduce bon et robuste, à utiliser depuis Scala.

31voto

Jorge Ortiz Points 3374

Pour ajouter à la réponse sur Hadoop: il y a au moins deux Scala wrappers qui rendent le travail avec Hadoop plus agréable au goût.

Scala Carte de Réduire (SMR): http://scala-blogs.org/2008/09/scalable-language-and-scalable.html

SHadoop: http://jonhnny-weslley.blogspot.com/2008/05/shadoop.html

UPD 5 oct. 11

Il est également Scoobi cadre, c'est génial d'expressivité.

3voto

bayer Points 4202

2voto

AWhitford Points 953

Vous pouvez être intéressé par scouchdb, un Scala interface à l'aide de CouchDB.

Une autre idée est d'utiliser GridGain. ScalaDudes avoir un exemple d'utilisation de GridGain avec Scala. Et ici est un autre exemple.

2voto

bsdfish Points 1340

Il y a quelque temps, j'ai rencontré exactement ce problème et j'ai fini par écrire une petite infrastructure pour faciliter l'utilisation de Hadoop de Scala. Je l'ai utilisé seul pendant un certain temps, mais j'ai finalement réussi à le mettre sur le Web. Il s'appelle (très à l'origine) ScalaHadoop .

2voto

Xela Points 294

Pour un scala API au-dessus d'hadoop découvrez Scoobi, il est encore en développement mais montre beaucoup de promesse. Il y a aussi quelques efforts pour mettre en œuvre des distribué des collections sur le dessus d'hadoop dans le Scala incubateur, mais cet effort n'est pas utilisable encore.

Il y a aussi une nouvelle scala wrapper pour en cascade à partir de Twitter, appelé Brûlures. Après la recherche très brièvement sur la documentation de Brûlures il me semble que pendant qu'il fait de l'intégration avec en cascade lisse, il ne fonctionne toujours pas de résoudre ce que je vois comme le principal problème avec cascade: type de sécurité. Chaque opération en cascade fonctionne en cascade de n-uplets (en gros une liste des valeurs de champ avec ou sans schéma), ce qui signifie que les erreurs de type, I. e. Joindre une clé comme une Chaîne et clé en tant que de Longs fils au moment de l'exécution des échecs.

Prograide.com

Prograide est une communauté de développeurs qui cherche à élargir la connaissance de la programmation au-delà de l'anglais.
Pour cela nous avons les plus grands doutes résolus en français et vous pouvez aussi poser vos propres questions ou résoudre celles des autres.

Powered by:

X