‘착한’ 인공지능 만들기?

최근 대중적으로 널리 알려진 케임브리지대 물리학자 스티븐 호킹이 인류에게 위협이 될 수 있는 인공지능의 등장에 대비해야 한다고 주장해 화제가 된 적이 있다. 평소 현대 물리학에 따르면 신은 불필요하다는 등의 대중적 호기심을 자극할 만한 주장을 자주 하곤 했던 호킹의 말이어서인지 이번에도 언론의 반응은 뜨거웠다. 호킹의 우려가 현실화하는 것을 막으려면 인간의 가치를 존중하는 ‘착한’ 인공지능만을 개발하도록 강제해야 한다는 제안까지 등장했다. 하지만 호킹 주장의 현실성은 매우 논쟁적이다. 과연 인간을 멸망시킬 수도 있는 ‘사악한’ 인공지능이 가까운 미래에 등장할까?

필자가 인공지능 학자는 아니지만 이 물음에 대한 답은 비교적 자신있게 할 수 있다. 현재의 인공지능 연구 수준을 고려할 때, 선하건 악하건 인간을 뛰어넘는 인지 능력과 자의식을 가진 인공지능의 등장은 당분간 요원하다. 이런 인공지능을 ‘강한’ 인공지능이라 부르는데, 인공지능 연구자 대다수가 ‘강한’ 인공지능 연구는 아직 해결해야 할 근본적 문제가 너무 많아 단시일 내에 SF영화 수준의 성과를 기대하기는 어렵다고 판단한다.

가령 ‘자의식’을 기계적으로 정확히 어떻게 구현할 수 있을지 자체가 미해결 과제다. 사실 ‘자의식’이 정확히 무엇인지에 대한 이론적 설명조차 완전하지 않다. 이런 상황이니 ‘강한’ 인공지능 연구가 직면한 난관은 당연한지도 모르겠다. 물론 인간과 흡사한 외모를 갖고 겉으로 보이는 행동이 ‘마치’ 자의식을 가진 것처럼 보이는 인공지능은 언젠가 만들 수 있을지도 모른다. 하지만 기술적으로는 분명 경탄할 만한 이런 인공지능이 미래에 등장한다고 해도, 그 인공지능이 ‘진정한’ 자의식을 갖는지를 어떻게 확인할지도 풀기 어려운 문제다. 하물며 그 기계가 영혼을 갖고 있는지, 인류와 평화롭게 공존할 수 있는 ‘착한’ 심성을 갖고 있는지를 확인하는 일은 더더욱 어려운 과제가 될 것이다.

이런 어려움이 발생하는 근본적인 이유는 기계가 인간과 유사한 마음을 가졌는지를 겉으로 드러난 기계의 행동으로부터 확실하게 알아내는 일 자체가 개념적으로 단순하지 않기 때문이다. 계산기는 우리보다 훨씬 빨리 큰 수 곱셈을 척척 해내지만, 우리가 그 계산을 할 때 우리 마음에 일어나는 느낌, 예를 들어 ‘정말 어렵네!’라든지 ‘아, 구구단이 헷갈리네!’라는 느낌을 갖지는 않는다. 계산기에 장착된 논리회로가 매우 빠른 속도로 연산을 수행할 뿐이다. 철학자들이 ‘감각질’이라 부르는 이런 인간적 마음의 특징이 ‘강한’ 인공지능을 구현하기 어려운 부분이다. 예를 들어, 최근 유명한 퀴즈쇼에서 쟁쟁한 역대 우승자를 제압한 IBM의 왓슨처럼 놀라운 지적 능력을 가진 것처럼 보이는 인공지능에 대해서조차, 정말 다른 인간 경쟁자들처럼 질문을 ‘이해’하고 답하는지에 의문이 제기될 수 있다. ‘강한’ 인공지능에 회의적인 사람이라면 왓슨이 아무리 ‘똑똑해 보여도’ 결국은 매우 복잡한 계산기에 불과하다고 폄하할 수도 있다.

인공지능 센서가 탑재된 세계 최초 감성 인식 로봇 페퍼_경향DB

그런데 가만히 생각해보면 우리가 다른 사람 마음의 특징을 알아내는 방식도 인공지능과 그다지 다를 바 없어 보인다. 예를 들어, 지하철에서 누군가가 얼굴을 찡그리며 머리를 두드리고 있다면 우리는 그가 두통으로 아파하고 있다고 생각할 것이다. 물론 이런 생각은 워낙 순간적으로 이루어지기에 다른 사람 마음을 추론으로 알아낸다고 느끼지는 않을 것이다. 하지만 다른 사람 마음을 그의 행동으로부터 읽어내는 상황에는 아침에 출근해 까다로운 상사의 기분을 파악하는 일처럼 상당한 관찰력과 상상력이 요구되는 경우도 많다. 핵심은 기계가 아닌 인간도 다른 사람 마음을 직접 체험해볼 방법은 없다는 데 있다. 이런 점을 고려할 때 분명 인간과 구별하기 힘든 ‘인간적’ 행동을 보이는 인공지능이 미래에 등장한다고 가정할 때, 이 기계에게만 진짜 마음을 갖고 있음을 증명하라고 요구하는 것은 부당해 보일 수 있다. 고대 그리스인들이 노예와 여성을 분명 인간처럼 보이지만 지적 능력이 떨어지는 미성숙 인간으로 취급했던 것이 부당한 것과 마찬가지다.

이런 생각과 일관적으로 인공지능을 이해했던 사람이 현대 계산과학의 선구자 앨런 튜링이다. 그는 미래에 등장할 인공지능이 인간과 똑같은 방식으로 생각하지야 않겠지만, 그렇다고 기계가 결코 진정으로 생각할 수 없다고 단정하는 것은 부당하다고 지적했다. 기계의 생각하는 방식이나 ‘느낌’이 인간의 그것과 다를 가능성을 인정해야 한다는 것이다. 그럼에도 불구하고 그는 기계가 지능을 가졌는지 인간을 기준으로 판단할 수밖에 없다고 생각했다. 그 이유는 학자마다 ‘진정한’ 지능이 무엇인지에 대한 생각은 다 다르지만, 모두 인간이 지능을 갖는다는 점에는 동의하기 때문이다. 그러므로 먼 훗날 발달한 기계가 인간과 구별하기 힘들 정도로 인간을 잘 ‘모방’한다면 그 기계가 지능을 갖는다는 점을 부인하기는 어려울 것이라고 생각했던 것이다.

최근 튜링이 제안한 모방 게임을 통과한 인공지능이 등장했다고 해서 화제가 되기도 했지만 아직 완벽한 모방을 이룩했다고 보기는 어렵다. 그렇기에 ‘착한’ 인공지능에 대한 기대는 당분간 희망사항으로만 남을 것 같다.

이상욱 | 한양대 교수·과학철학