인공지능에 대해 궁금한게 있습니다.
글쓴이: awdxawdx101 / 작성시간: 목, 2019/11/07 - 11:11오후
(궁굼해서 찾아본 수준이라 잘못알고있는게 있을 수 있습니다.)
지금의 인공지능은 1가지 일만 할 수 있습니다. 예를 들어 바둑만 두는 알파고가 있죠.
이를 약한 인공지능이라고 부른답니다.
'약한'인공지능이 있으니 '강한'인공지능도 있겠지요?
강한인공지능은 1가지 일만 하는 것이 아닌, 모든 일을 스스로 데이터를 수집하고, 학습을 하는 인공지능을 말합니다. 저희가 SF영화에서만 보던 인공지능 악당들이 실제로 나타날 수 있는 것이지요.
여기서 제가 궁금한것은(조금 유치해 보일 수 있습니다),
강한인공지능이 나오게 되면
영화에서 나오는 악당들(터미네이터, 어벤져스의 울트론...)이 실제로 나타날 수 있는데,
영화에서 나오는 영웅들(어벤져스..)은 실제로 나타날 수가 없습니다.
그러면 강한 인공지능 시대가 오는 것을 두려워해야 하는게 아닌가요?
Forums:
닝겐도 인공지능인데 ㅋㄷ
다음종이 과거종을 쓸어버리는건 자연계의 법칙데쓰
곱게 디질라고 무덤자리 알아보는중
호달달
---------------------------
매일 1천억명이 사용하는 프로그램을 함께 만들어보고 싶습니다.
정규 근로 시간을 지키지않는. 야근 하는 회사와 거래합니다.
각 분야별. 좋은 책'이나 사이트' 블로그' 링크 소개 안받습니다.
강한인공지능은 1가지 일만 하는 것이 아닌, 모든
강한인공지능은 1가지 일만 하는 것이 아닌, 모든 일을 스스로 데이터를 수집하고, 학습을 하는 인공지능을 말합니다.
=> 저희가 SF영화에서만 보던 인공지능 악당들이 실제로 나타날 수 있는 것이지요.
이 사이에 도약이 있는데, 추가 설명 바랍니다.
제가 알기로는
지금의 인공지능이라고 하면 사람이 데이터를 가공하고, 학습을 시켜줘야 제 일을 하는데,
강한 인공지능은 사람이 데이터를 입력시켜 줄 필요없이 스스로 인터넷에 접속해 자료를 모으고 스스로 학습을 합니다. 그래서 필요한 부품이 있다면 직접 기계를 돌려서 만들어 낼 수 있다는거죠.
(어벤져스의 울트론처럼요...)
그래서 SF영화에서만 보던 악당들이 실제로 나타날수 있다고 말한겁니다.
요즘 인공지능이라 하면 학습또한 기본적으로 자가학습을
요즘 인공지능이라 하면 학습또한 기본적으로 자가학습을 합니다.
데이터를 알아서 수집하죠 -> 크롤릴등의 방법을 통해..
그러면...
강한 인공지능은 사람이 데이터를 입력시켜 줄 필요없이 스스로 인터넷에 접속해 자료를 모으고 스스로 학습을 합니다. 그래서 필요한 부품이 있다면 직접 기계를 돌려서 만들어 낼 수 있다는거죠.
이 부분은 어떤가요? 혹시 잘못 알고있거나 가능성 없는 얘긴가요?
...
사람은 이미 그렇게 할 수 있습니다. 근데 SF 영화에 보는 인간 악당들은 왜 현실에 안 나타날까요?
..
IS같은 정신나간 범죄자들이나 크래커 등등은 나오는데,
미친 싸이코 과학자가 로봇을 만들어 평화를 위협하는 그런 경우는 없었네요...
아직 기술이 많이 부족한걸까요?
어쩌다보니 내용이 '자유게시판'에 더 어울리는 글이 되었네요 ㅋㅋ
현재 AI 라고 불리는 것들은 99퍼센트가 머신
현재 AI 라고 불리는 것들은 99퍼센트가 머신 러닝이고, 사실 상 지능이라는 이름을 붙일 수 없는 것들입니다.
그냥 마케팅 측면에서 인공 지능이라고 하고 있죠.
데이터를 어떻게 획득하는지는 중요한게 아닙니다.
실제 사람처럼 생각하고 결정하는 bottom up 방식의 진짜 인공 지능은 연구도 활발하지 않고, 불가능하다고 생각하는 연구자들이 많습니다.
주변에 인공 지능에 대해 지나치게 떠벌인다면, 사기꾼 아니면 초짜라고 생각하세요.
상진씨 의견에 동의합니다.
상진씨 의견에 동의합니다.
머신 러닝.. 즉 빅데이터를 기반으로 한 확률이라고 보시면 됩니다.
인공지능의 개발에는 크게 두 가지의 접근 방식이
인공지능의 개발에는 크게 두 가지의 접근 방식이 존재한다. 첫 번째 상향식(Bottom-Up Method)이라 불리는 방식의 경우 인간의 뇌의 신경망과 화학 작용을 분석해 뇌의 전자 모델을 개발할 수 있다면 인공지능을 탄생시킬 수 있다고 보는 개념이다. 현재로서는 상향식 인공지능이라고 하는 것은 단순한 개념에 그치며, 실제 사례는 존재하지 않는 공상과학의 영역에 불과하다.
두 번째는 하향식(Top-Down Method)이라 불리는 방식인데, 프로그램에 지식과 경험을 쌓게 해 반복적인 학습을 통해 최종적으로 지성에 도달한다는 개념을 의미한다. 왓슨이나 구글 딥러닝 등을 포함한, 대부분 우리가 아는 인공지능의 개발은 이 하향식을 택한다.
하향식 방식은 사실 상 복잡한 통계 방식을 사용한 데이터 처리 루틴에 불과하이며, 여기에 지능이라는 단어를 붙이는 것은 무리가 있다.
...
...라고 하지만, 불과 몇 년 전까지만 해도 "하하하 기계가 무슨 생각이야! 기계의 계산 능력 따위로 바둑의 심오한 원리를 이해할 수가 있나!" 하고 있었죠.
지금은 기계가 해내버리니 간단히 "하하하 그냥 몇 집인지 아주아주 빠르게 계산하면 되는 건데 그게 무슨 인공지능이야!" 다들 이러고 있습니다.
아마 한 20년 뒤에는 "하하하 사람의 애인이 되어주고 판결을 내리고 범인을 잡는 건 다 음성과 화상 입력을 무지 빠르게 프로세싱해서 적당한 반응을 계산해내면 되는 건데 그게 무슨 인공지능이야, 그냥 계산기지!" 그러고 있을지도 모르죠. (아님 말고~)
실제로 인공지능에 대한 기대가 가장 높았던 시기는
실제로 인공지능에 대한 기대가 가장 높았던 시기는 1950년대였습니다.
초기 컴퓨터가 나오면서 사람처럼 생각하는 기계의 출현이 당연시되었습니다.
하지만 10년 20년이 지나도 이러한 기계는 실현되지 않았고, 지금은 아무도 진짜 인공 지능의 도래를 말하지 않습니다.
한 때는 전문가 시스템을 AI라 하였고, 지금은 머신 러닝을 AI라 하고 있는데, 기존에 있던 통계적 처리 기법을 혁신한 것으로 프로그래머가 설정한 조건 내에서 빅데이터를 사용하여 수천만에 이르는 파라미터를 조작하는 처리 방식입니다.
또한, top down 방식의 연구는 bottom up 방식과는 근본적으로 다른 것으로서, 지금의 인공 지능 연구가 진짜 인공 지능으로 발전할 수 있는 것도 아닙니다.
"진짜 인공 지능"이 대체 뭔데요?
"진짜 인공 지능"이 대체 뭔데요?
엄밀하게 정의된 법률이나 기술 관련 용어가 아닌 이상에야 어느 정도의 ambiguity가 허용되는 게 자연어라지만, 솔직히 이런 말을 들을 때마다 No true Scotsman이 생각납니다.
https://en.wikipedia.org/wiki/No_true_Scotsman
각자가 생각하는 "인공 지능"이 대체 무엇인지에 대해 합의를 보려면 시간이 많이 필요하겠죠. 그러니 한 가지만 여쭙도록 하겠습니다. "인공 지능"이기 위해서는 특정한 방법으로 구현되어야/구현되지 말아야 한다는 조건은 왜 필요합니까? 중요한 건 기능이지, 내부 메커니즘이 아니지 않아요?
(인간) 뇌를 모방하고 뇌처럼 동작하는 뇌 시뮬레이션이어야만 인공 지능일 수 있는 걸까요. 저는 꼭 그래야만 할 필요는 없다고 생각합니다만.
파이널 인벤션 이란 책에서
파이널 인벤션 이란 책에서 말씀하신 의문을 다루고 있습니다. 제목이 파이널 인벤션인 이유는 정말 강인공지능이 만들어질 수 있다면 인류 최후의 발명은 강인공지능 자체이고 이후는 강인공지능이 스스로 생각할 테니 더 이상 인간의 간섭이 더 필요 없어진다는 거지요.
이후 어떻게 될지 - 인간에게 적대적일지 아닐지 - 에 대한 고찰을 하고 있는데, 사실 예측에 불과한 것이지만 상상해 보는 건 좋다고 봅니다.
--
익스펙토 페트로눔
슈퍼 인텔리전스라는 책과 특이점이 온다라는 책을 봐도
슈퍼 인텔리전스라는 책과 특이점이 온다라는 책을 봐도 작성자님이 하신 말씀이 나옵니다.
여기서 특이점은 보수사이트 ㅇㅂ에서도 자주 언급하는데요.
말그대로 "어떤 기준을 상정했을 때, 그 기준이 적용되지 않는 상태"
인간이 아무것도 하지 않고 기계만이 생산활동을 하고 편의는 인간이 누리는 그런상태가 올거라합니다
개인적으로 기다려지네요. 현재 기술 속도면 10년내로 가능할거라 봅니다.
위에서도 언급되었지만, 수퍼인텔리전스라고 생각하시는
위에서도 언급되었지만, 수퍼인텔리전스라고 생각하시는 인공지능과 지금 연구하고 있는 인공지능은 전혀 다른 분야 입니다. 생각하시는 인공지능은 거의 연구가 되지 않고 있고 불가능하다는 것이 대체적인 의견입니다. 과거에 순진하게 기대했던 것에 대한 실현 가능성에 회의가 생기고 있으며, 인간이 생존하고 있는 기간에는 가능하지 않을 것입니다.
혹시 구글이나 테슬라에서 일하시나요??
혹시 구글이나 테슬라에서 일하시나요??
어디서 일하시는지 모르겠지만 현재 아시는게 전부라고 생각하시는것 같은데요??
추론과 학습
prolog라는 프로그래밍 언어가 있습니다. 이 언어로 인간처럼 추론할 수 있는가를 무려 십년동안 어떤 단체(이름이 생각이 안나네요)가 연구하였습니다. 그러나 전혀 소득이 없이 끝났습니다.
이 후의 인공지능은 추론에서 학습으로 방향이 변경됩니다. 말이 학습이지, 사실은 데이터를 가공하고 분석하는 통계적인 처리 기법입니다. 과거에는 하드웨어의 성능이 부족해서 엄두가 나지 않았지만 지금은 하드웨의 발달로 이 방법이 유효합니다.
알파고는 바둑에 관해서는 진짜 인공지능입니다.
알파고는 바둑에 관해서는 진짜 인공지능입니다.
현재의 알파고는 과거처럼 사람이 둔 기보들의 빅데이터를 학습하지 않고,
스스로 수를 둔 후 실패와 성공을 따져 학습을 합니다.
이른바, RNN 이라 하는 것이죠.
하지만, 이러한 인공 지능은 바둑과 같이 19x19의 판상 그라운드에 규칙이 완전히 알려져 있는 경우에만 도달할 수 있습니다.
실제 인간 세상의 데이터는 이보다 수백만 배 복잡하며, 메카니즘 자체가 알려져 있지 않습니다.
때문에 기계학습이라 하여 빅데이터를 통한 파라미터 최적화를 쓰는 것입니다.
사람과 같이 학습하여 추론하고 행동하는 인공 지능은 소프트웨어의 영역이 아닙니다.
장담할 수 있나요?
?
댓글들 보시면 알수 있듯이 인공지능은 머신 러닝 기반이고 인간의 두뇌의 세포의 연산을 모방한
딥 러닝 구조로 뛰어난 성능을 보이고 있죠. 하지만 그냥 복잡한 연산이 진행되는 것일 뿐 아직 머신의 개별적인 지능은 없다고 보시면 됩니다. 인공지능을 보고 영화의 나오는 악당들을 걱정해야하는 것이면 컴퓨터가 수십자리 수의 곱셈을 하는 것을 보고도 악당들이 나타날까 걱정해야 하는거죠 ㅋㅋㅋㅋㅋ
o-o
전 인공지능에 대해서 주워들은게 전부여서 자세히 모른 상태였고, 그 중에 강인공지능에 대한 얘기를 듣고 궁금해서 글을 올려본겁니다. 댓글들 보니까 강인공지능은 현재로선 거의 불가능한거 같네요 ㅎㅎ
전문가들은 불가능하다고 합니다.
전문가들은 불가능하다고 합니다.
존문가들은 금방 가능하다고 합니다.
안타깝게도, 조금 틀리셨네요.
안타깝게도, 조금 틀리셨네요.
ㅈ문가들은 별다른 근거도 없이 가능/불가능을 쉽게 논합니다.
전문가들은 아직 풀리지 않은 문제의 난이도를 논하는 게 얼마나 어려운 일인지 잘 알고 말을 아끼거나 조심스럽게 합니다.
어떤 분야에서든, 전문가에게 미래 전망을 부탁해서 "글쎄요, 몇 년 안으로는 어렵지 않을까 생각합니다." 이상으로 불가능을 강하게 단언하는 경우를 본 적이 별로 없습니다.
뭐, 예외가 있기는 하죠. 각의 삼등분 작도라거나, 무한동력이라거나. 이런 예외들은 또 나름 그럴 만한 이유가 있고요.
그동안 기술발전의 역사를 보면 다들 안된다
그동안 기술발전의 역사를 보면 다들 안된다 불가능하다고 했죠.
불과 조선시대만 하더라도 사람이 날수 있다고 생각했을까요?
홀로그램 기술은요? 투명 망토는요? 자율 주행자동차는요?
모두 영화속 이야기였습니다.
우리는 모두 이루어내었습니다.
이모두 수많은 과학자, 개발자들이 만들어낸 결과물입니다.
저는 개발자를 creater라 표현합니다. 창조하는거죠.
모든 현상에 의문을 품고 아이디어를 얻어 새로운것을 창조하는 자..
우리는 인간과 같이 추론하고 학습하는 제2의 존재를 창조할것입니다.
인공지능이라는 개념이 나온지 70년이 넘어가고,
인공지능이라는 개념이 나온지 70년이 넘어가고, 컴퓨터가 눈부신 발전을 이루었지만,
사람이 설정한 명령어대로 수행한다는 점은 조금도 달라지지 않았습니다.
위의 분 말씀대로 프로그래밍으로는 해결할 수 없고, 생명 공학 쪽에서는 가능할지도 모르겠습니다.
Quote:사람이 설정한 명령어대로 수행한다는 점은
사실입니다. 그런데 그게 왜 중요한가요?
알파고를 개발한 사람들은 알파고보다 바둑을 잘 둘까요? 알파고는 그들이 설정한 명령어대로 동작할 텐데요.
곱셈 프로그램을 개발한 사람은 컴퓨터보다 곱셈을
곱셈 프로그램을 개발한 사람은 컴퓨터보다 곱셈을 잘하나요?
흠. 곱셈 알고리즘을 제대로 알고 구현한 사람은, 그
흠. 곱셈 알고리즘을 제대로 알고 구현한 사람은, 그 구현체만큼 곱셈을 할 수 있다고 말할 수 있겠죠.
물론 얼마나 빠르게, 얼마나 실수 없이 할 수 있는지까지 따진다면 조금 다른 이야기가 될 수도 있겠지만요.
그럼 다시 여쭙습니다만, "알파고를 개발한 사람들은 알파고보다 바둑을 잘 둘까요?"
혹은, 최소한 알파고가 각 상황에서 어떤 절차로 다음 수를 선택하는지 이해하고 설명해줄 수 있을까요?
네 로그에 잘 설명되어 있을겁니다.
네 로그에 잘 설명되어 있을겁니다.
이거 핫하네요 ^^
인공지능에 대한 막연한 공포는 언제나 있던 주제지만 여기는 조금 개발자스러운 댓글이 오고 가네요
미약하지만 저의 견해를 말씀드리면
현재 수준에서 이해가능한 위험한 강인공지능은 영화 영화 "아이로봇" 에 나온 인공지능 정도 일겁니다.
거기에 나오는 인공지능은 감정도 없고 단순히 효율만을 추구해서
"인간을 보호한다"는 개념을 확대해석하는 것으로 나오긴 합니다.
하지만 이 마저도 논리의 오류라는 관점에서 보면 불가능하다고 할수 있습니다.
머신러닝이나 딥러닝이라는 방식으로는 효율적인 계산만 가능할뿐 "추론" 이나 "논리의 비약" 과 같은 행위는 아직 개념적으로 불가능 하니까요
------------------------------------------------------------
ProgrammingHolic
댓글 달기