인간이 인공지능에게 결정권을 빼앗긴세상이 온다면…

구글의 알파고와 이세돌의 바둑대결은 인공지능과 바둑 천재의 대결로 커다란 주목을 받았다. 알파고가 먼저 3승을 거두면서 ‘이제는 인간이 인공지능 앞에 무릎을 꿇어야 하는가’ 하는 절망감이 퍼지기도 했지만 이세돌이 신의 묘수로 4번째 대결에서 우승을 거두자 ‘역시 인간의 능력은 무한하다’는 안도감(?)이 들기도 했다.

한편 지난 2월 23일 미국 캘리포니아 마운틴뷰 구글 본사 인근에서 자율주행차가 교통사고를 냈다. 일반도로에서 테스트를 하던 자율주행차가 사거리에서 우회전하던 중 하수구 보수공사를 위해 쌓아놓은 모래자루를 피하다가 40km/h의 속도로 달려오는 버스에 받힌 것이다.

2km/h 정도로 움직이던 구글의 무인차에 앉아 있던 관리자는 “버스가 속도를 줄여 양보할 줄 알았다”고 말했다. 버스 운전자가 구글의 무인차를 못봤는지, 아니면 무인차가 멈출 줄 알고 그대로 진행했는지는 알 수 없다(일부러 받았다는 루머도 있다). 이와 관련해 구글은 자신들에게 일부 책임이 있다고 인정했다. 또한 이번 사고버스처럼 다른 차들이 양보를 하지 않아 사고가 날 가능성에 대해 수천가지 시나리오를 검토했고, 소프트웨어 조정작업을 진행했다고 밝혔다.

결과적으로 이 사고는 구글 자율주행차의 과실로 일어난 최초의 사고로 기록된다(구글은 최근 6년간 자율주행차를 330만km 굴리면서 상대편 과실로 인한 교통사고가 17건 있었다고 밝혔다).

알파고나 자율자동차 모두 구글의 인공지능과 연관되어 있다. 다시 말해 이세돌을 이길 만한 지능을 가진 소프트웨어가 자율주행차를 운행하고 있는 것이다. 알파고의 딥마인드 프로그램의 CEO 데미스 하사비스는 현재의 알파고가 베타 또는 알파 버전도 아닌 초기 개발단계의 프로그램이라고 했다. 그런데도 이세돌을 무력하게 만들 수 있는 잠재력을 보여준 것이다. 그렇다면 자율주행차가 나오는 2~3년 뒤에는 지금 알파고보다 몇십배 지능이 뛰어난 시스템이 등장할 것이다.

현재 전세계에서 매년 120만명이 자동차 관련사고로 목숨을 잃고 있다. 그중 90%가 인간의 실수에서 비롯되는데, 만약 자율주행을 통해서 이를 방지할 수 있다면 100만명의 목숨을 살리는 셈이 된다. 정말 대단하다.

인공지능 기술이 발전하면 자동차 외에 다른 분야에서도 우리의 삶이 혁신적으로 변화될 것이다. 실제로 딥마인드가 제시한 미래상 중에는 인터넷을 통해 병을 진단하고 입력된 의학정보를 바탕으로 가장 적합한 처방과 치료법을 알려주는 버추얼 의사도 있다.

장밋빛 청사진만 있는 것은 아니다. 알파고의 딥마인드 알고리즘은 정보의 입력에 의해 완성된다. 이번 이세돌 9단과의 대결에서도 그의 대국 정보를 모두 입력해서 바둑 스타일을 익힌 것으로 알려졌다.

이럴 경우 입력자의 가치관이 자연스럽게 프로그램에 스며든다. 입력자의 도덕성이나 사고방식의 알고리즘이 프로그램에 반영되는 것이다. 입력작업에는 많은 프로그래머가 관여한다. 현재의 CEO인 하사비스의 도덕성도 알파고에 어느 정도 반영되지 않았을까 하는 추측도 해본다.

문제는 여기에 있다. 피할 수 없는 교통사고가 일어날 경우 차에 타고 있는 사람을 우선적으로 보호할 것인가 아니면 다른 차 또는 보행자를 우선적으로 보호할 것인가를 먼저 정해야 한다.

최근에 구글은 자율주행차의 사고 책임론에 대해 ‘만의 하나 사고가 날 경우 우리가 책임을 지겠다’고 했다. 이것은 무엇을 의미할까? 그만큼 안전에 자신이 있다는 뜻일 수도 있고, 피해자에게 보상할 돈이 있다는 뜻일 수도 있다. 지금은 큰 논란거리가 되지 않지만 자율주행이 보편화되고, 인공지능이 우리의 삶에 깊이 들어와 있을 경우에는 심각한 문제가 아닐 수 없다.

인간이 기계, 즉 인공지능에게 결정권을 빼앗긴 세상에 살고 있다고 가정해보자. 기계의 실수를 인간이 받아들이고 쉽게 용서할 수 있을까? 영화 〈터미네이터〉의 주인공 존 코너가 나타날지도 모른다.