이선미 칼럼니스트
고양생명의전화 상담 매니저, 심리학자
중세시대에는 동물도 범죄자로 분류되어 형사 재판을 받았다. 실제로 닭, 쥐, 들쥐, 벌, 각다귀, 돼지 등이 기소된 사건이 문서로 남아 있다. 그 시대 사람들은 요즘과는 달리, 동물들이 옳고 그름을 분별하고 그에 따라 행동할 수 있다고 생각했다. 동물들에게 도덕적 행위력이 있다고 믿었던 것이다.
그러나 우리는 통상 다음 두 가지가 가능해야 도덕적 행위자가 될 수 있다고 본다. 도덕적 행위자는 자신의 행위가 도덕적으로 적절한 결과에 이를 것임을 인식할 수 있고, 적절한 행동 방식을 선택할 능력이 있어야 한다.
흥미롭게도 두 조건 모두 옳고 그름을 분별하는 ‘주관적이고 선천적 감각’에는 전혀 의존하지 않는다. 심리학자들은 그저 행위자들이 일반적인 도덕적인 기준에 맞춰 각자의 행동을 통제하고 행동의 결과를 평가할 수 있으면 된다고 설명한다. 그래서 주관적이고 개인적인 의도에서 나온 도덕적 기준인지, 그 기준의 근본이 되는 이론을 이해하는지, 그 이론에 동의하는지, 정의와 죄악의 차이를 느끼는지는 전혀 문제가 되지 않는다.
그렇다면 인공지능은 어떨까? 인공지능 역시 도덕적 책임의 요건을 충족할 수 있을까? 통상적인 도덕적 행위의 기준을 갖다대면, 인공지능 역시 도덕적 행위자가 될 수 있다. 즉, 주어진 환경에서 도덕적으로 적절한 측면을 감지할 능력이 충분하고, 행동에 대한 선택권이 있으므로 도덕적 행위자로서의 자격이 충분하다.
그런 ‘도덕적 행위자’로서 컴퓨터 시스템들이 꼭 사람과 비슷하고, 대단히 정교해야 하는 것도 아니다. 잔디를 깎는 로봇은 앞에 놓인 장애물이 나뭇잎이나 가지인지, 어린아이의 다리인지 감지할 수 있다. 그래서 멈출 것인지, 계속 진행할지도 선택할 수도 있다. 여기서 중요한 문제는 로봇이 언제는 멈추고, 언제는 진행할지를 어떻게 ‘알겠느냐’는 것이다.
물론 인간이 어떤 형태로든 지시하거나 유도하지 않았는데 로봇이 좋은 결정을 내릴 리는 없다고 우리는 생각한다. 이 문제는 그래서 본격적인 ‘도덕론’적 논쟁으로 비화되고 있다. 실제로 자율주행차 프로그램을 놓고 이미 활발한 논쟁이 진행되고 있다.
자율주행차가 차에 탄 사람의 목숨을 구하기 위해 길가의 개를 치고 지나갈 수도 있다. 물론 그런 경우는 비교적 명료한 선택이 가능하다. 그러나 나이 든 노부부와, 한 무리의 아이들 중에 한쪽을 덮쳐야 한다면 어떤 선택을 하겠는가?
생각하기조차 끔찍해서 그런 질문을 회피하는 사람도 있겠지만, 회피하는 것 자체가 비도덕적인 행동일지 모른다. 그래서 디지털 문명을 이끌어가는 인간은 이를 악물고 도덕규범을 프로그램화해서 기계에 이식하려 할 것이다. 그러나 이는 쉬운 문제가 아니다. 애초 ‘도덕’에 관한 결정론적 해법을 공학적인 차원에서 접근하는 자체가 모순이다. 지난 수백년에 걸쳐 철학자들이 방대한 도덕 이론을 발전시켰는데 어떤 이론이 최선이며 실행 가능한지에 관한 논쟁은 오늘날까지도 계속되고 있다. 설사 이 난해한 문제에 어느 정도 의견의 일치를 보더라도 그 결정이 현실화 되고, 기계의 프로그램으로 작동된다는 보장은 없다.
인간은 본능적으로 상처를 받으면 그 상처를 남에게 전가하지 않아야 옳다고 생각한다. 그런 인간의 도덕관은 동정과 연민을 느끼는 인간의 능력에 상당부분 뿌리를 두고 있다. 그런 관념을 기계가 터득하기는 아마도 불가능할 것이다.
만일 어느 불량국가가 핵미사일을 발사하면 대응 방침을 논할 시간이 적어도 몇 분이라도 있겠지만, 원자력 발전소가 사이버 공격을 당해서 통제력을 잃으면 상황은 절망적이다. 사이버 기계들이 우리를 보호하리라 믿는 것 외에는 우리에게 달리 선택의 여지가 없다.
지금의 속도로 기술이 발전하면, 사이버상의 자율적인 시스템이 그 스스로 ‘자율적’인 존재가 될 수도 있다. 그렇게 되면 언제 어떻게 스스로 작동할지, 전자 시스템 간에 어떤 충돌과 싸움이 벌어질지 알 수 없는 일이다. 그 규모와 속도는 가히 상상할 수 없을 것이다. 그럴수록 기계와 인공지능의 ‘도덕적 책임’이 문제가 되는 온갖 사례가 쏟아질 것이다. ‘인조인간’과 ‘진짜 인간’을 두고 선택해야 하는 딜레마적 상황도 일어나지 않는다고 보장하기 어렵다. 생각할수록 두려운 미래다.