php 사이트에서 처리시간이 너무 오래 걸리는데요....

지수아비의 이미지

php, mysql 을 이용하여 사이트를 운영하고 있는데요....
텍스트 파일을 업로드 하여 가공후 DB에 저장하는데 시간이 너무 오래 걸립니다.
1~2시간 정도 걸리구요..
열어놓은 페이지는 시간이 초과하여 페이지를 표시할수 없다고 표시되는데,
DB를 조회해서 데이터가 늘어나고 있는걸 보면 처리는 되고 있구요,
1~2시간 정도 지나면 처리가 완료되고 있습니다.

텍스트 파일의 자료 수는 3만여개 정도가 되구요.
해당 테이블의 자료수는 100만개정도됩니다.
매월 4회정도 3만개정도를 계속 올리다보니 자료수가 계속 늘어나네요.

테이블의 해당 필드는 모두 인덱싱 처리를 했습니다.

혹시 php.ini의 memory_limit 값에 영향을 받기도 하나요?
현재 memory_limit값이 8M로 되어 있던데요....
아니면 php.ini의 다른 부분을 조정해야 하나요?

앞으로 자료가 계속 늘어날텐데 큰일입니다.

monovision의 이미지

텍스트 파일을 가공하고 업로드 하는데 1-2시간이면 상당하네요 ㄷㄷ;;;
3만건이면 그리 많은 양도 아닌데...

어느 부분에서 시간이 걸리는지 (데이터 가공인지, DB INSERT 시인지) 를 찾는 것부터가 우선일듯 합니다. 그냥 딱 봐도 데이터를 가공하는 부분에서 문제가 있는 것 같구요.

일단, php 에서는 텍스트 파일 업로드만으로 끝내고 백그라운드로 데이터 가공 및 DB INSERT 를 하는 방법이 더 좋아 보입니다.

kirrie의 이미지

해당 필드에 모두 인덱싱을 걸었다면 당연히 insert 속도가 느릴 수 밖에 없습니다. insert시에 모든 필드의 인덱스를 생성해줘야 하기 때문에...
(설마 심지어 게시판의 본문 내용 같은 컬럼에도 인덱스를 거신건 아니겠지요? ^^)
인덱스는 꼭 필요한 컬럼에만 걸어주세요. 절대적인건 아니지만, 하나의 테이블에 두세개 이상 인덱스가 걸린다면 뭔가 좀 문제가 있는 테이블이라고 볼 수 있습니다.
--->
데비안 & 우분투로 대동단결!

--->
데비안 & 우분투로 대동단결!

gamdora의 이미지

락을 쓰는 건 어떨까요?

댓글 달기

Filtered HTML

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

BBCode

  • 텍스트에 BBCode 태그를 사용할 수 있습니다. URL은 자동으로 링크 됩니다.
  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param>
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.

Textile

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • You can use Textile markup to format text.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Markdown

  • 다음 태그를 이용하여 소스 코드 구문 강조를 할 수 있습니다: <code>, <blockcode>, <apache>, <applescript>, <autoconf>, <awk>, <bash>, <c>, <cpp>, <css>, <diff>, <drupal5>, <drupal6>, <gdb>, <html>, <html5>, <java>, <javascript>, <ldif>, <lua>, <make>, <mysql>, <perl>, <perl6>, <php>, <pgsql>, <proftpd>, <python>, <reg>, <spec>, <ruby>. 지원하는 태그 형식: <foo>, [foo].
  • Quick Tips:
    • Two or more spaces at a line's end = Line break
    • Double returns = Paragraph
    • *Single asterisks* or _single underscores_ = Emphasis
    • **Double** or __double__ = Strong
    • This is [a link](http://the.link.example.com "The optional title text")
    For complete details on the Markdown syntax, see the Markdown documentation and Markdown Extra documentation for tables, footnotes, and more.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 사용할 수 있는 HTML 태그: <p><div><span><br><a><em><strong><del><ins><b><i><u><s><pre><code><cite><blockquote><ul><ol><li><dl><dt><dd><table><tr><td><th><thead><tbody><h1><h2><h3><h4><h5><h6><img><embed><object><param><hr>

Plain text

  • HTML 태그를 사용할 수 없습니다.
  • web 주소와/이메일 주소를 클릭할 수 있는 링크로 자동으로 바꿉니다.
  • 줄과 단락은 자동으로 분리됩니다.
댓글 첨부 파일
이 댓글에 이미지나 파일을 업로드 합니다.
파일 크기는 8 MB보다 작아야 합니다.
허용할 파일 형식: txt pdf doc xls gif jpg jpeg mp3 png rar zip.
CAPTCHA
이것은 자동으로 스팸을 올리는 것을 막기 위해서 제공됩니다.