현재 위치

홈 ›› Forums ›› 공부 ›› 설치 및 활용 QnA

AWS DynamoDB 빅데이터 실시간 그래프 처리 문의

czz96의 이미지
글쓴이: czz96 / 작성시간: 목, 2018/02/22 - 12:40오후

DynamoDB에 수집된 빅데이터 로그를 실시간으로 그래프를 그리고자 합니다.
현재 아래와 같은 부분은 수행해서 알듯 한데요. 수집된(DynamoDB) 데이터를 실시간 그래프로 생성하려면 어떠한 절차와 자료를 참고해야 될까요?

# 구축환경 아마존 EMR (Hadoop / Spark 클러스터링 구성 + Zeppelin)
현재 테스트 처리절차 : DynamoDB -->S3(csv data export)--> Spark RDD Load --> Zeppelin(Scala) 데이터 파싱 --> RDD SQL테이블 정의 및 S3(파싱된 자료 export처리) --> SQL형태 쿼리 그래프 생성

// 현재까진 아래 링크 참고하여 구성함
https://www.youtube.com/watch?v=oXO3JIyqH4g

File attachments: 
첨부파일 크기
Image icon Spark RDD Load 후 Zeppelin 그래프 처리158.93 KB
Forums: 
설치 및 활용 QnA
yhsuk의 이미지

글쓴이: yhsuk / 작성시간: 금, 2018/02/23 - 11:42오전

찾아보니 EMR과 DynamoDB connector 가 있네요
https://github.com/awslabs/emr-dynamodb-connector
https://aws.amazon.com/ko/blogs/big-data/analyze-your-data-on-amazon-dynamodb-with-apache-spark/

Signature :) - "여유를 갖고 행동하되 게을러지지 말자"

댓글 달기

텍스트 포맷에 대한 자세한 정보

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.