Hadoop for Windows...
글쓴이: ydh1220 / 작성시간: 금, 2015/12/04 - 2:00오후
윈도우즈 상에서 분산처리 서버와 DB서버를 활용하려고 합니다.
여러가지 조사를 해본 결과 윈도우즈 상에서도 하둡을 사용할 수 있다는 정보를 알았고,
현재 공부를 하면서 설치과정에 있습니다. (호튼웍스 사의 하둡 2.3)
특히 하둡의 맵리듀스를 통해 분산처리를 하고자 하는데, 혹시 윈도우즈 상에서도 이 맵리듀스가 가능한 건지.. 알고싶습니다. (질문 1)
그리고 제가 윈도우즈 플랫폼을 고집하는 이유는 저희 연구실에서 만들어놓은 모든 라이브러리 및 알고리즘 소스코드들이
윈도우 기반으로 작성되었습니다..ㅠㅠ
그렇다면 윈도우즈 상에서 하둡 맵리듀스를 구동했을 때 윈도우즈 라이브러리가 활용된 소스코드들이 동작할 수 있는 지 궁금합니다..!! (질문 2)
선배님들의 많은 도움을 구합니다..(_ _)..
Forums:
윈도우 하둡 맵리듀스'로 찾아보면.
네이버. 구글. 네이버 책'에서 검색해보니. 몇가지 있네요.
----------------------------------------------------------------------------
젊음'은 모든것을 가능하게 만든다.
매일 1억명이 사용하는 프로그램을 함께 만들어보고 싶습니다.
정규 근로 시간을 지키는. 야근 없는 회사와 거래합니다.
각 분야별. 좋은 책'이나 사이트' 블로그' 링크 소개 받습니다. shintx@naver.com
없는데요...
없습니다 없어요.
질문1) 예 당연히 가능합니다. 질문2) 가능합니다.
질문1) 예 당연히 가능합니다.
질문2) 가능합니다. 그냥 Java에서 하려면 기존 윈도우코드를 자바에서 호출할 수 있게 JNI(Java Native Interface)로 wrapper를 만들어야 합니다. 또는, 기존 윈도우코드(C#, VC++,... ?)를 서버로 만들고 통신(IPC, Inter-process communication)으로 인터페이스하는 방법도 있겠습니다.
그런데 이렇게 하자니, 귀차니즘이 밀려옵니다. HADOOP이 Java말고 .NET상에서 지원이 된다면 좋겠는데요?. 이 필요를 느끼는 세계인이 많으리라고 간주되지요? 그래서, C#으로 하둡 인터페이스가 되는 것을 검색합니다.
* 개인적으로는 아래 2번이 어떨까?합니다.(저도 사용하지는 않았습니다.) 저는 개인적으로 위에 언급된 통신기법을 선호하는 사람입니다.
-------
1) 마이크로소프트에서 만든 HDInsight 가 있는데요.
(곧(아마도) 상용으로 바뀔 수순으로 보입니다.)
http://www.microsoft.com/web/gallery/install.aspx?appid=HDINSIGHT
http://www.codeguru.com/columns/experts/how-to-create-mapreduce-jobs-for-hadoop-using-c.htm
--------------
2) 코드플렉스에서 만든 또 다른 것이 있습니다.
http://hadoopsdk.codeplex.com/
http://www.amazedsaint.com/2013/02/a-quick-introduction-to-hadoop-hive-on.html
------------
3) https://bitbucket.org/vadim/hbase-sharp
4) https://github.com/hdinsight/hbase-sdk-for-net
댓글 달기