Untitled Document

전재학
인천 산곡남중 교장

오늘날 인공지능(AI)에 대해서 많은 사람들이 우려를 표명하고 있다. 예컨대 “인공지능이 점점 발전하다가는 인간보다 더 똑똑해질 수 있다”, “누가 인공지능을 통제할 것인가?”, “인공지능이 시키는 대로 일을 하는 삭막한 세상이 올 수 있다” (……) 등등 이루 헤아릴 수 없다. 따라서 인공지능의 개발을 법적으로 제한해야 한다는 주장이 제기된다. 우리는 인공지능과 로봇 시대를 살면서 구체적으로 어떤 점을 고민하고 어떤 변화로써 조화(造化)를 이뤄야 할까?

국제유럽연합(EU)은 2017년 1월 벨기에 브뤼셀에서 의회를 열고 인공지능을 가진 로봇의 법적 지위를 ‘전자 인간(electronic personhood)’으로 지정하는 안건을 통과시켰다. 국가 차원에서 인공지능의 법적 지위를 결정한 것이다. 이는 인공지능이 아직은 인간을 직접 위협할 수준은 아니지만 언젠가는 관련한 법과 제도 정비가 필요하다고 보고 이에 대한 법적, 제도적인 대응책을 만들어 놓자는 생각을 처음으로 제도화한 것으로 당시 상당한 이슈로 파장이 컸다.

EU가 전자 인간을 만들 때 꼭 지켜야 할 규정으로 제정한 것은 다음과 같다. 첫째, ‘로봇 3원칙’에 따라 개발해야 한다. 이 3원칙은 로봇은 인간을 위험에 처하게 하면 안 되고(1원칙), 1원칙에 어긋나지 않는 한 로봇은 인간의 명령을 들어야 하며(2원칙), 1원칙과 2원칙에 어긋나지 않는 한 로봇은 자신을 지켜야한다(3원칙)는 것이다. 둘째, 전자 인간을 만들 때는 혹시 모를 반항에 대비해 긴급 정지 장치를 꼭 만들어야 한다. 셋째, 규범과 규칙을 전문적으로 논의하고 가다듬어 갈 전문기구를 신설한다.

여기서 잠시 국내의 인공지능 로봇 개발 현황을 살펴보자. 2018년, KAIST는 한화시스템과 공동으로 ‘국방인공지능융합연구센터’를 열었다. 당시 한 영문 매체는 기사를 쓰면서 ‘AI 무기를 개발하는 곳’이라는 해설을 게재했는데 이를 본 외국 과학자들은 상황을 심각하게 받아들이고 57명의 해외 과학자가 KAIST와 어떤 공동연구도 하지 않겠다고 선언하고 ‘당장 그런 연구를 그만두라’라고 강력하게 항의하는 사건이 있었다. 물론 이 사실은 오해로 밝혀지고 KAIST 총장이 57명 전원에게 이메일을 보내 해명을 하고서야 일단락된 일이 있었다.

이 사건은 무엇을 말하는가? 당시 개발했던 킬러로봇이 세계 과학기술자 사이에서 맹렬한 비난을 받았고 또한 그리 적극적으로 활용되지도 못했다. 왜냐면 사람이 명령하지도 않았는데 자동으로 판단해 사람을 죽이는 로봇 소총에 대한 우려를 표명했기 때문이다. 이 논리는 아무리 고성능 첨단 인공지능이라 할지라도 사람을 죽이는 판단 그 자체, 즉 방아쇠를 당기는 행위가 인간이 통제하는 무기는 킬러로봇이 아니라고 생각을 하지만 자동화된 프로그램이 직접 행한다면 아무리 단순한 기계라도 킬러로봇에 속한다고 보는 것이다.

다시금 우리의 현실을 보자. 현재 인공지능 로봇을 보는 많은 사람은 기대와 우려를 동시에 표명하고 있다. 이는 과학기술 전문가들이 인간을 공격하지 않고 인간에게 도우미 역할에 충실한 로봇을 만들기 위한 고민에서 시작한다지만 그 미래가 어떤 모습이 될지는 아무도 모른다. 하지만 무조건적 불안감을 나타내기보다는 그 발전의 모습이 어떤 형태가 될 것인지, 그 기술이 사회에 미치는 영향이 어떤 것인지에 대해 차근차근 고민해 보고 서로 논의할 필요가 있다. 당연하게도 우리의 미래는 우리가 원하는 것만큼 더 안전해지고 더 편리해지며 더 행복해져야 하기 때문이다. 이에 우리의 인공지능 로봇 과학기술은 온갖 편리한 도구일지라도 실체를 낱낱이 드러내는 적극적인 정책으로 인간을 우선하는 철저하게 도덕적이고 윤리적인 책임 의식을 바탕으로 이루어져야 할 것이다. 여기엔 무엇보다도 로봇을 만드는 인간이 철저히 ‘인간 존중’이라는 제1의 원리, 휴머니즘에 입각한 실천윤리를 구현하는 과학 문명의 설계자여야 한다. 우리의 과학기술 교육은 이런 기반에서 동전의 양면처럼 조화를 이루어야 한다.