[김영민 객원기자] 자율주행차 운행이 코앞으로 다가왔다. 하지만 자율주행차가 도로에 달리면 그만이라는 생각은 큰 오산이다. 핵심은 주행에 따른 윤리 가이드라인이다. 평소 운전자 습관, 도덕성에 따라 폭주하고 음주운전하고 상대운전자를 무시하거나 범죄로 악용된다면 어떻게 될까. 매우 끔찍하지 않을 수 없다. 만약, 자율주행차가 낭떠러지에 부딪쳤을 때 운전자를 어떻게 살릴지 이런 기술도 매우 중요한 부분이다.
이처럼 기술적 윤리적인 문제를 놓고 국토교통부, 산업통상자원부에 따르면 2022년부터 실질적으로 도로에서 달릴 수 있을 것이라고 밝혔다. 앞으로 정부부처는 1조원 이상의 윤리 가이드라인에 따른 전반적인 비용을 투자한다. 이와 관련 국토부 산하 국토교통과학기술진흥원, 한국교통안전공단, 한국교통연구원을 비롯해 대한교통학회, 인공지능윤리협회, 한국윤리학회, 한국자동차공학회, 한국자동차안전공학회가 공동으로 참여한 윤리 가이드라인 제정과 관련 매뉴얼을 구축해 발표했다.  그 속에 무엇을 담았고, 운전자와 운전자 사이, 탑승자 모두에게 어떤 영향을 미치고 향후 자율주행차의 제조생산 업체들에게 가장 중요하게 제시할 기반이 될 수 있는지를 살펴봤다.  

2022년 현대차는 레벨3(부분의 자율주행가능) 수준의 자율주행차의 도로에 달린다. 앞서 구글과 일본은 내년부터 출시된다.

레벨(Level) 3 시스템의 경우 자율주행시스템은 인간운전자, 운용자, 탑승자, 외부액터(타차량, 보행자 등) 등과의 원활한 상호작용을 고려해야 한다.

현대자동차가 레벨 3 수준의 부분 자율주행 기술을 오는 2022년 출시되는 양산차에 적용한다.

글로벌 기업들과 협업 및 실증사업을 통해 레벨 4, 5 수준의 완전 자율주행 기술 상용화에도 박차를 가한다.

레벨 4, 5에 해당하는 완전 자율주행 기술의 경우에 글로벌 기업들과의 전략적 협력을 바탕으로 해당 분야를 선도하기 위한 노력을 지속하고 있으며, 이의 일환으로 지난 8월 앱티브(Aptiv)와 자율주행 합작법인인 '모셔널'을 설립했다.

현대자동차는 자체적인 기술 개발 노력과 함께 중국, 이스라엘, 미국 등 해외 선진 기업들과 전략적 투자 및 협업을 지속해 나간다는 계획이다.

수소차경우는 상용차로는 우리나라가 빨라지만, 대중화는 반대로 늦어지고 있다는 가운데, 다만 자율주행차는 윤리성, 안전성, 생명성 등에 초점을 맞춰 대중화로 가는데 첫 발을 내딛을 것으로 보인다.

윤리 가이드라인 제정 배경은 자율주행자동차는 과학과 자동차기술의 급속한 발전으로 인해 인간이 직접 운전하는 전통적인 자동차에서 벗어나는데 출발했다.

이는 자율주행으로 운행 시 인간의 생명과 신체의 안전을 획기적으로 개선할 것으로 예상된다.

그러나 자율주행 도로시험 운행 중 다양한 사고가 발생을 예측할 수 있다. 그래서 공학학자와 윤리학자의 융복합이 바로 자율주행차가 완벽하게 제조돼야 법제화된 후 세상으로 나올 수 있다.

이는 과거 트롤리 딜레마 이슈와 관련 지속적으로 논의됐으나, 자율주행차 사고들은 트롤리 딜레마 상황으로 발생한 것으로 보기에는 어렵다는 의견이 모아졌다.

최근 현실적인 운행 환경에서 발생할 수있는 위기 관리 이슈로 확산되고 있다.

지금까지 연구에서 트롤리 딜레마 상황으로 인해 자율주행차 사고가 발생하는 것은 아니라는 의견이 모아진다.

이유는 바로, 2017년 6월 자율주행차 윤리 문제와 지침을 세계 최초로 독일에서 'Ethics commission-automated and connected driving'를 발표했다.

미국도 2016년 9월 설계지침을 발표한 이후 매년 지속적으로 자율주행차 설계지침을 제시하고 있다.

국내는 자율주행차 행위주체들이 참고, 활용할 수 있도록 국내외 AI 인공지능/ 자율주행차 가이드라인, 설문조사, 빅데이터 분석 등을 통해 윤리 가이드라인을 마련했다.

가이드라인을 통해 자율주행차의 기본가치와 행동원칙을 제시하고, 설계. 제작. 관리. 서비스 제공. 이용자 등 자율주행차 관련 행위주체들이 이를 고려했다.

앞으로 상용화될 자율주행차가 우리 사회에 정립된 윤리 수준에 따라 제작?운행할 수 있도록 자발적으로 책임성을 확보할 수 있도록 한다는 전문가 집단의 공통된 입장이다.

가이드라인 제정 경위를 보면, 자율주행 상용화와 기술발전에 대비하기 위해 '자율주행차 차량와 운전자 제어권 전환 안전성 평가기술 및 사회적 수용성 연구' R&D 사업을 이미 2017년부터 내년까지 진행형이다.

윤리 가이드라인 연구는 홍익대 황기연 교수가 수행했다.

2017년부터 국내외 관련 사례를 검토하고 전문가 의견 수렴을 통한 연구를 진행, 2019년 자율주행차 융복합 미래포럼 성과발표회에서 자율주행차 윤리 가이드라인 초안을 발표했다.

그동안 여러차례 국민의견 수렴, 성과발표회 등을 통해 11개 윤리 가이드라인 키워드 빅데이터 분석을 수행했다.

초안 발표 이후 국토교통과학기술진흥원에서 초안을 공개해 국민 및 유관 기관 의견을 취합했다.

또한 윤리 가이드라인의 객관성을 확보하기 위해 2차례 델파이 전문가 조사를 실시 수정안을 마련했다.

무엇보다도 가이드라인이 자율차 사고 배상책임 판단의 근거가 될 수 있기 때문이다.

행위주체별 책임 규정 시 신중을 기할 필요가 있다는 의견과 함께 업계의 기술개발을 촉진할 것으로 기대된다는 등 활발히 의견이 개진됐다.

자동차 및 윤리 전문가 집단 등과 공동 제안 발표에서 ▲기본가치 ▲행동원칙 ▲설계. 제작.  관리.서비스제공. 이용자별 책임사항 등을 제시한 최종 마련했다.

자율주행차는 과학·기술의 급속한 발전으로 인해 인간이 직접 운전하는 전통적인 자동차에 비해 운행 시 인간의 생명과 신체의 안전을 획기적으로 개선할 것으로 예상된다.

비록 자율주행차가 완성도 및 기술적 측면에서 고도로 발전하더라도 사고 등의 안전문제, 생명·재산 등의 손실, 그 밖에 미리 예상하기 어려운 문제들을 완벽하게 피하거나 방지하는 것은 현실적으로 불가능할 수 있다.

 자율주행시스템을 통해 사람에 의한 운전 개입 없이 상황을 판단하고 대응한다고 하더라도 위와 같은 문제들에 대해 스스로 책임을 지기는 어렵기 때문에 결국 자율주행차의 설계자·제작자·관리자·서비스 제공자·이용자 등이 책임을 진다. 

자율주행차 행위주체들이 기본가치 구현을 위해 준수해야 할 행동원칙은 ▲투명성 ▲제어 가능성 ▲책임성 ▲안전성 ▲보안성 등 크게 5가지로 구성된다.

자율주행차는 인간의 존엄성, 국제법적으로 인정된 인권과 자유, 프라이버시 및 문화적 다양성을 존중하고, 인간을 성별, 나이, 인종, 장애 등을 이유로 차별하지 않으며, 인간의 법과 관습에 의한 판단과 통제에 따르도록 설계, 제작, 관리돼야 한다.

특히, 악의를 가진 인간은 자율주행차를 사람이나 동물의 생명을 살상하거나 재물을 파괴하는 등 사회적 혼란을 초래할 목적으로 사용할 수 있다.   

이러한 문제를 대비하기 위해 인간의 '올바른' 판단과 통제만 따르도록할 필요가 있으나, 자율주행차가 스스로 올바름 여부를 판별할 수는 없기 때문에 올바름에 대한 정의가 필요하다.   

올바름을 명확하게 정의하기는 어려우나, 결국 사회에 정립된 윤리와 가치판단을 바탕으로 할 것이라고 볼 수 있다.
따라서 '올바름'은 최소한 사회 구성원들의 합의를 기초로 한 법과 관습을 따르는 것으로 볼 수 있다.

자율주행차는 인간이 직접 운전할 필요가 없거나 아주 제한된 경우에만 운전을 하기 때문에 운전에 따른 피로나 스트레스가 줄어들고 운전시간을 타 용도로 쓸 수 있어 생산성 향상에도 기여하고, 고령, 장애인, 어린이 등과 같은 교통약자들의 이동권도 개선도 담았다.

자율주행차 이용이 늘수록 버스, 택시, 택배, 화물차운전자 등의 직업 안정성에 타격을 줄 수 있고, 대중교통 이용과 보행이 줄어 비만과 같은 건강 문제가 심각해질 수 있다.

자율주행차가 기존의 자동차보다 더 많은 화석연료를 사용하도록 하는 방식으로 운행되도록 설계되는 경우 기후 온난화와 같은 환경적 위해를 줄 가능성도 있다.

또한 '제어 가능성' 원칙은 매우 중요하다.

자율주행차가 운행 중 오작동으로 인해 도로교통법규를 위반하는 등 이상 징후를 보일 때는 1차적으로 탑승자가 그 작동을 즉각적으로 제어 또는 정지시킬 수 있어야 한다.

만약 탑승자의 제어가 어려울 경우에는 정부로부터 권한을 위임받은 기관이 비상 상황에 대처해야 함을 의미하다.

다른 문제도 있다. 비식별 조치를비롯한 철저한 보안으로 개인정보 침해의 문제가 발생하지 않도록 사전적 조치가 필요하며, 불법적인 해킹은 시스템의 오작동 등 기능에 심대한 영향을 줘 사고를 유발할 가능성이 커 이를 미연에 대비할 사이버보안 준칙을 마련해야 한다.

그동안 일반적인 지금의 교통체계 3요소, 교통인프라 3요소가 소멸될 수 있는 것도 자율주행차의 미래다.

따라서, 무인운전시스템이 사용됐는지 또는 제어권 전환으로 인해 책임이 인간운전자에 있는지 여부를 명확하게 구분할 수 있어야한다.

완전한 무인운전이 아닌 경우, 인간과 기계의 관계를 설계할 때 어느 쪽이 어떤 책임을 맡고 있는지, 그리고 제어권이 어디에 있는지 여부를 항상 명확하게 해야 한다.

자율주행차 기술이 국경을 넘어 확산될 경우에 대비해 프로토콜 또는 문서화 의무사항에 대한 국가 간 호환성이 확보돼야 하고, 제품 인도 절차와 문서화(기록)에 대한 국제 표준화도 필요하다.

김영민 객원기자 다른기사 보기