제안이유 및 주요내용

  최근 인공지능의 적용 분야가 스포츠, 교통 등 일상적인 영역으로 확대되고 구글의 알파고(AlphaGo)처럼 일부 분야에선 이미 인공지능이 인간보다 우수하다는 인정을 받고 있는 등 인공지능 기술 발전에 대한 기대감이 커지고 있는 반면, 높아진 자율성의 수준만큼 인간의 개입이 줄어들면서 인공지능이 어떻게 판단하고 처리할 것인지에 대한 불안과 고민 또한 높아지고 있음.
  내년 상용화가 예상되는 자율주행자동차의 경우 자동차 사고를 피할 수 없을 때에 한 명의 운전자와 다수의 보행자 중 누구를 선택할 것인지 하는 문제처럼 윤리적 딜레마에서 인공지능이 어떤 판단을 하는지가 개발자와 사용자 간의 책임 소재를 결정짓고 자율주행자동차의 상용화에 가장 큰 걸림돌이 될 것이라는 의견이 있음.
  이러한 인공지능의 윤리적 판단은 사전에 프로그래밍된 윤리적 기준에 입각한 알고리즘을 따라 결정되기 때문에 자율주행자동차 상용화에 가장 앞서 나가고 있는 미국, 독일 등 선진국들은 앞 다투어 자율주행자동차 윤리적 기준 또는 개발 지침 등을 마련하고 있는 실정임.
  이에 자율주행자동차의 상용화를 촉진시키기 위하여 생명과 안전을 우선시하는 윤리원칙에 입각한 자율주행자동차의 윤리적 설계기준을 마련하도록 하고, 이를 자율주행자동차의 설계 또는 제작 시에 널리 적용될 수 있도록 홍보·교육을 실시하도록 함으로써 미래 핵심산업인 자동차산업의 주도권을 확보하려는 것임(안 제4조의2 및 제24조제1항제3호 신설).

자율주행자동차 윤리적 설계기준(안 제4조의2)