中野智文

中野智文(VOYAGE GROUP)のコンピュータなどのメモ

EMR(Elastic MapReduce)でAMI3.X(Hadoop2.X)を使うと遅くなる場合

2014-09-24 11:17:28 | AWS
背景 EMR(Elastic MapReduce)でAMI3.X(Hadoop2.X)を使うと、同じインスタンス構成でも、時間がかかることがある。 原因 YARN Hadoop2.Xのリソース管理は、従来の1.Xのスロットによる管理とは異なるYARNと呼ばれるコンテナを用いたリソース管理を用いる。 ざっくり説明すると、ノード(インスタンス)全体のリソース量(メモリサイズとCPU数)から、 . . . 本文を読む