[질문] Data file manipulation 방법?

rubbe의 이미지

안녕하세요.

저는 회사 업무를 통해 아래와 같은 데이터를 얻을 일이 많습니다. 주로 측정기를 통한 데이터인데요. 시간에 따른 전류값 및 fiber의 지름 데이터를 얻습니다.

-----------------------------------------------------
Description
.....

2004-3-24 08:00:00.554 1.328000 2004-3-24 08:00:01.528 1.329000 2004-3-24 08:00:02.558 ..........

------------------------------------------------------

제가 하고자 하는 바는

(1) 데이터가 ms 단위로 나와 있는데, ms단위는 삭제하고 초단위로 정렬 하고 싶습니다.
(2) 매초마다의 데이터를 매분(또는 정해진 간격) 간격으로 screening하고 싶습니다.
(3) 데이터가 1줄에 다 들어가 있는데 이를 아래와 같이 컬럼 기준으로 만들고 싶습니다.

2004-3-24 08:00:00 1.328
2004-3-24 08:00:01 1.329
........

어떤 툴을 사용하면 좋을까요?
만약 programming을 한다면 데이터 처리 logic을 알려주셨으면 합니다.

부탁드립니다.

berise의 이미지

Quote:

(1) 데이터가 ms 단위로 나와 있는데, ms단위는 삭제하고 초단위로 정렬 하고 싶습니다.
(2) 매초마다의 데이터를 매분(또는 정해진 간격) 간격으로 screening하고 싶습니다.
(3) 데이터가 1줄에 다 들어가 있는데 이를 아래와 같이 컬럼 기준으로 만들고 싶습니다.

2004-3-24 08:00:00 1.328
2004-3-24 08:00:01 1.329
........

어떤 툴을 사용하면 좋을까요?
만약 programming을 한다면 데이터 처리 logic을 알려주셨으면 합니다.

이 경우 사용할 수 이는 툴이 유닉스 시스템에 무지 많습니다. 윈도우를 쓴다면 Win32 port를 계획하면 됩니다.

데이터가 컬럼별로 입력될 경우 awk를 사용하는 것이 좋을 듯 합니다.
정해진 간격으로 데이터를 정리하고 싶을 경우 cron 같은 서비스를 활용하면 됩니다.
msec를 sec로 변경하는 것은 간단한 곱셈으로 결과를 얻을 수 있겠지요. awk안에서 처리가능하죠.

따라서, 결론은 cron과 awk를 활용하면 위 문제를 해결하기에는 충분할 것 같습니다.

berise.

rubbe의 이미지

그런데요, 원래 file이 한줄로 입력이 되어있거든요.

한줄짜리 데이터를 컬럼형식으로 바꾸려면 어떻게 해야 하나요?

예하나만 보여주시면...

제가 정규 표현식을 몰라서요..

댓글 달기

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

BBCode

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param>
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

Textile

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • You can use Textile markup to format text.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Markdown

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • Quick Tips:
    • Two or more spaces at a line's end = Line break
    • Double returns = Paragraph
    • *Single asterisks* or _single underscores_ = Emphasis
    • **Double** or __double__ = Strong
    • This is [a link](http://the.link.example.com "The optional title text")
    For complete details on the Markdown syntax, see the Markdown documentation and Markdown Extra documentation for tables, footnotes, and more.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Plain text

  • HTML 태그를 사용할 수 없습니다.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 줄과 단락은 자동으로 분리됩니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.