리눅스 awk를 활용한 정렬주에 2단정렬

likestrike의 이미지

안녕하세요 awk를 사용중에 활용방법을 알고 싶어서 글을 남깁니다.

내용은 아래와 같습니다.

특정 파일에 수백건이상의 데이터가 쌓여져 있습니다. 형식은 간단하게

CODE_VALUE, CODE_NAME 두가지로 나뉩니다.
CODE_VALUE는 R,E,C 세가지 이며
CODE_NAME 은 각기 다릅니다.

이 경우 CODE_NAME으로 정렬을 하고 R,E,C에 대한 카운트를 세려고 합니다.

(예)

R,CODE_A
R,CODE_B
R,CODE_C
R,CODE_D
R,CODE_E
R,CODE_F
R,CODE_G
R,CODE_H
R,CODE_I
E,CODE_C
E,CODE_D
E,CODE_E
C,CODE_F
C,CODE_B
C,CODE_C
.
.
.

위처럼 파일에 데이터가 저장이 되어 있고

결과를
R E C
CODE A 5 2 4
CODE B 2 2 2
CODE C 1 3 4

이런식으로 나타내고 싶습니다.

스크립트로 돌리면 데이터가 많을시 부하 문제가 있어서
awk문법 만으로 가능한지

혹은 grep이나 다른 처리로 가능한지

조언을 부탁드립니다.

감사합니다.

ymir의 이미지

associative array 를 쓰면 될 것 같군요.
awk 는 물론 많은 스크립트 인터프리터들이 이걸 제공할겁니다.
array 크기야.. 전체 레코드 쌍의 갯수 정도일테니 부하가 많이 걸리지는 않을테구요.
편한걸로 쓰시면 되겠네요. (bash 는 version 4.0 부터 지원)

awk 는 별로 안 써봐서.. bash 로 대신..

$ cat data.txt
R,CODE_A
R,CODE_B
R,CODE_C
R,CODE_D
R,CODE_E
R,CODE_F
R,CODE_G
R,CODE_H
R,CODE_I
E,CODE_C
E,CODE_D
E,CODE_E
C,CODE_F
C,CODE_B
C,CODE_C
 
$ cat dt.sh
#!/bin/bash
 
INFILE=${1-data.txt}
declare -A CLIST        # code list
declare -A CRLIST       # code & rec list
 
OIFS=$IFS
IFS=,
 
while read -r rec code
do
        CLIST[$code]=1
        let CRLIST[$code$rec]++
done < $INFILE
 
for C in ${!CLIST[@]}
do
        echo ${C/_/ } ${CRLIST[${C}R]-0} ${CRLIST[${C}E]-0} ${CRLIST[${C}C]-0}
done | sort
 
IFS=$OIFS
 
exit 0;
 
$ bash dt.sh
CODE A 1 0 0
CODE B 1 0 1
CODE C 1 1 1
CODE D 1 1 0
CODE E 1 1 0
CODE F 1 0 1
CODE G 1 0 0
CODE H 1 0 0
CODE I 1 0 0

되면 한다! / feel no sorrow, feel no pain, feel no hurt, there's nothing gained.. only love will then remain.. 『 Mizz 』

bacon의 이미지

awk로 대충 이정도면 되겠네요.

BEGIN { FS=","; }
 
{
     code_array[$2] = 1;
     count_array[$2,$1]++;
}
 
END {
     for (code in code_array)
     {
          split (code, a, "_");
          printf ("%s %s ", a[1], a[2]);
          printf ("%d %d %d\n", count_array[code,"R"], count_array[code,"E"], count_array[code,"C"]);
     }
}

스크립트가 1.awk라 하고 데이터파일이 1.txt 라고 하면..

$ awk -f 1.awk 1.txt | sort
CODE A 1 0 0
CODE B 1 0 1
CODE C 1 1 1
CODE D 1 1 0
CODE E 1 1 0
CODE F 1 0 1
CODE G 1 0 0
CODE H 1 0 0
CODE I 1 0 0

댓글 달기

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

BBCode

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param>
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

Textile

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • You can use Textile markup to format text.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Markdown

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • Quick Tips:
    • Two or more spaces at a line's end = Line break
    • Double returns = Paragraph
    • *Single asterisks* or _single underscores_ = Emphasis
    • **Double** or __double__ = Strong
    • This is [a link](http://the.link.example.com "The optional title text")
    For complete details on the Markdown syntax, see the Markdown documentation and Markdown Extra documentation for tables, footnotes, and more.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Plain text

  • HTML 태그를 사용할 수 없습니다.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 줄과 단락은 자동으로 분리됩니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.