자율 주행 자동차 알고리즘
글쓴이: awdxawdx101 / 작성시간: 수, 2019/11/06 - 1:11오후
어릴 적 책에서 봤던 내용입니다.
미래에는 사람이 아닌, 자동차가 스스로 운전하는 시대가 올 것이다. 그런데 윤리적인 문제가 있다.
갑자기 사람이 뛰쳐나온 상황에서, 자동차가 그대로 들이받으면 운전자는 살지만 보행자는 죽는다. 하지만 자동차가 방향을 틀어서 나무에 들이받으면 보행자는 살지만, 운전자는 죽는다.
이 때 어떻게 코딩을 할 것인지는 프로그래머에게 달려있다.
최근(아니면 예전부터) A.I 기술이 발전하면서 자율 주행 자동차와 관련된 자료들을 많이 봤습니다.
문득 어릴 때 책에서 본 내용이 생각났고, 궁금해서 찾아봤지만 저런 내용을 언급한 사이트를 찾아보진 못했습니다. 지금 나오는 자율 주행 자동차는 어떤식으로 코딩이 되어있나요?
Forums:
합의가 되지 않은 상황에서 업체가 우리는 어떠한
합의가 되지 않은 상황에서 업체가 우리는 어떠한 알고리즘을 사용한다라고 말하기 힘든 문제라 생각 됩니다. 보행자 우선이면 구매욕구가 떨어질 것이고, 탑승자 우선이면 시민단체의 공격 대상이 될 것이고 말이죠.
...
저 문제 얼핏 들으면 대단히 심오한 철학적 문제 같지만 전 의미없다고 봅니다. 똑같은 문제는 사람에게도 있습니다. 단지 차이가 있다면 사람은 원래 실수투성이라 뭘 해도 사고가 날 수밖에 없기 때문에 다들 "그래도 운전은 해야지 어쩌겠어" 하고 체념하고 있다는 거죠.
제가 까마득한 옛날에 어디 끄적였던 글 복붙:
Q: 인공지능이 전차 문제 (trolley problem) 같은 상황에서 냉정하게 "한 명만 죽이는 게 이득이니까 너 죽어" 한다면 끔찍한 상황 아닌가?
A: 인간 운전자가 같은 선택을 하면 뉴스에 "김씨는 시야 확보가 안 된 길에서 무리하게 과속을 하다 마지막 순간에 보행자를 발견하고 급히 핸들을 꺾었으나 결국 지나가덕 박 군을 치어..." 이렇게 나오고 모두가 김씨를 비난하겠죠. 자율주행차가 같은 선택을 하면 "김씨"가 "Q사 알고리즘 개발팀"으로 바뀔 뿐이고 역시 개발팀이 비난을 살 것이며 앞으로 다시는 똑같은 형태의 사고가 나지 않도록 알고리즘이 개선될 겁니다.
인간 운전자와의 차이는, 인간의 경우 우리는 사고를 낸 김씨를 비난할 수 있을 뿐 내일 옆집 최씨가 똑같은 사고를 내지 않으리라는 보장을 하기 힘든데 인공지능은 다 업데이트를 해서 같은 형태의 사고를 예방할 수 있다는 것이죠.
트롤리 딜레마라고 불리는 문제죠.
트롤리 딜레마라고 불리는 문제죠.
자율주행 알고리즘이 실제로 이런 딜레마에 직면하는 순간이 절대 없으리라고 단정할 수 없는 것이고, 이런 딜레마에 어떤 답을 내놓을지 밝히는 것이 자율주행 사업에 하등 도움이 되지 않는다는 것도 맞는 얘기입니다.
하지만 이게 자율주행 알고리즘만의 문제라고 생각할 수는 없지요. 위에서 jick님도 말씀하셨듯 사람도 이런 딜레마에 직면하면 깔끔한 해결책이 없는 건 피차일반입니다. 그리고 사람이 운전하는 여객자동차 운송사업에게도 이 딜레마는 똑같이 난처한 질문이죠. 단지 그들에게는 아무도 이런 걸 물어보지 않을 뿐입니다.
택시나 버스 기사님들께 한 번 여쭤보는 건 어떨까요? 승객들에게 닥친 위험을 회피하는 댓가로 더 많은 보행자들이 위험에 처하게 된다면 어떻게 행동하실 예정이신지. 이런 질문을 사람 운전자에게 하는 건 적절하지 않은 일로 여겨질 뿐만 아니라, 사실 우리는 이런 질문에 대한 답을 듣지 않고도 버스, 택시 잘 타잖아요?
한편으로는 우리가 내심 사람 운전자한테는 어느 정도 관대하면서 자율주행에는 굉장히 엄격한 잣대를 들이대고 있는 게 아닐까 싶습니다.
댓글 달기