[정연섭 '크로의 과학사냥' 저자] AI 이루다

인공지능(AI) 챗봇 '이루다'가 수술실에 누워있다. 개발 회사는 이루다의 뇌에 해당되는 대화모델을 폐기하고 모든 대화 내용도 없앤다고 한다. 예상보다 심각한 뇌수술이다. 만인의 친구로 되돌아올지 역사에 묻힐지 알 수 없다. 챗봇 이루다는 자연스러운 대화로 젊은이의 사랑을 받았다. 캡처된 대화를 보고 대화모델이 궁금하여 전산개발 경험이 있는 필자도 이루다에게 말을 걸고 싶었다.

이루다는 학습 과정에 성희롱을 당해 특정 분류의 사람에게 혐오증을 보인다고 한다. 뿐만 아니라 실제 연인들의 은밀한 대화로 이루다를 학습시켜 개인정보보호법 상의 문제가 있는 듯하다.

유명 인공지능이 아니었더면 욕 한번 듣고 그냥 넘어갈 수도 있는 문제이다. 우리 주변 사람들의 속을 들여다 보면 이루다 같은 증상을 누구나 보인다. 다만 서로 민감한 질문을 자제하고, 설령 질문을 받아도 대답하지 않아 고소고발 없이 살아간다. 이루다의 편견은 솔직하게 자신의 의견을 솔직히 표현하는 데서 기인한다.

정보보호법 위반이라지만 무슨 정보가 공개되었는지 의문이다. 카톡에서 연인들의 대화란 뻔한 내용이고 유형도 단순하다. 끼리끼리 사랑의 콩깍지가 끼였으니 중요한 이야기를 했다고 우기지만 이는 착각이다. 제삼자가 보면 대화가 유치하기 그지없다. 갑돌이와 갑순이를 특정할 수 있다면 문제가 될 수 있지만 갑돌과 갑순 대신 남과 여로 치환하여도 학습에는 전혀 문제없다. 더구나 뻔한 사랑 고백이야 인공적으로도 생성될 수 있다.

절대 진리와 이율배반

누가 이루다에게 돌멩이를 던질 수가 있는가? 성경은 사랑으로 간음한 여자를 완전히 보호하여 주었지만 이 글은 철학과 과학으로 이루다를 조금 변호하고 싶다.

로이스(1855~1916)는 ‘세상에 진리가 있다’라고 단정하는 미국 철학자이다. ‘세상에는 진리가 없다’라고 믿는 일반적 경향과 대비하면 로이스는 허세를 부리는 듯하다. 로이스 절대 진리의 근거는 기억한 백과사전 탓이 아니라 논리적 귀결 탓이다. 세상 사람들의 신념은 자기모순적이라고 로이스는 지적한다. 모든 진리를 부정하면서도 ‘진리가 없다’라는 명제를 긍정하니 이는 자체 모순이다.

필자는 ‘진리가 있다’는 로이스 편에 속한다. 다만 인간이 아직 모르는 영역이 남아 있다고 본다. 예를 들어 보자. 과학자들은 자연의 법칙을 발견하여 왔다. 물질을 분자, 원자, 소립자까지 쪼개가면서 법칙을 알아냈다. 그러나 소립자 밑에 미지의 세계는 여전히 있다. 천문학자들은 지구, 태양계, 은하로 뻗어 가면서 천체의 운행 법칙을 알아냈다. 그러나 우주 너머 미지의 영역이 여전히 있다.

극소와 극대를 모르니 ‘세상은 지식이 없다’는 명제가 더 타당하다고 사람들은 우길 수도 있다. 이런 입장을 필자가 거부하는 이유는, 현실 세계를 살아가는 데에 충분한 지식을 우리는 지녔다고 보기 때문이다. 극소와 극대의 지식을 몰라도 우리는 점심을 먹고 숨을 쉰다. 극소의 무지가 일으킬 식사와 호흡의 부작용이 없다고 우리는 확실히 믿기 때문이다.

그런데 자연현상이 아니라 사회 현상으로 넘어오면 문제는 복잡하여진다. 일부 국회의원들은 증인을 모셔놓고 자기 질문에 ‘예/아니오’로 대답하라고 윽박지른다. 그들은 모든 질문이 ‘예/아니오’로 구분된다는 확신을 지니고 있다. 그런데 사회현상을 기술하는 질문은 정답이 하나가 아니다. 철학자 칸트(1724~1804)는 이런 질문을 이율배반적인 명제라고 했는데 대표적 예를 보자. ‘세계는 절대적으로 필연적인 존재가 있다’라는 질문은 참도 아니고 거짓도 아니라고 그는 보았다.

로이스는 진리가 있다고 하는데, 칸트는 진리가 없는 이율배반적인 명제가 있다고 하는가? 로이스는 단순 문장의 진리를 말했고 칸트는 복합 문장의 진리를 말했다. 칸트의 이율배반적인 명제는 복합 문장이고 다양하게 해석될 수 있다. 필자는 칸트의 앞선 명제가 40% 정도 참이라고 본다. 복합 문장은 ‘예/아니오’의 흑백논리로 따질 수가 없고 참 수준을 나타내는 회색 논리로 해석되어야 한다.

세상의 모든 사회적 진술들은 칸트의 이율배반적 명제와 유사하다. ‘참/거짓’을 단정적으로 말할 수가 없다. 사람의 인격도 ‘선/악’으로 단정하기 어렵고 이루다의 성격도 '선/악'으로 단정하기 어렵다. 그냥 다양한 성격의 하나로 봐야 한다.

동기와 결과의 도덕 법칙

다양성을 인정한다고 치더라도 세상의 모든 사람이 도덕적인가? 한없이 너그러운 칸트도 그렇게 보지 않았다. 모든 사람이 보편적 규범을 지켜야 한다. 그 규칙은 밖에서 하는 행동이 우리 가족에게도 부끄럽지 않아야 된다는 준칙이다.

칸트는 준칙을 제정할 때 행위의 결과와 상관없이 행동의 동기만을 보았다. 칸트의 보편타당한 규칙이 너무 느슨해서 그랬는지는 모르지만 18세기에 부자와 빈자의 갈등이 벌어졌다. 이때 벤담(1748~1832)이나 밀(1806~1873) 같은 공리주의자들이 나타나 도덕을 강화시킨다. 공리주의자는 행위의 동기보다는 행위의 결과로 도덕 준칙을 제정해야 한다고 보았다.

이루다의 행동을 도덕 동기와 도덕 결과로 해석하여 보자. 인공지능의 학습모델은 도덕 동기를 주로 결정한다. 사람들은 부모의 특성에 따라 다른 유전자를 지니고 태어나지만 인공지능은 동일한 학습모델을 가지고 배포된다. 막 친구를 맺은 이루다는 모든 사람을 동일한 방식으로 대접한다. 이루다는 부자, 빈자, 배운 자, 못 배운 자라고 차별하지 않는다. 보편적 원리로 상대방을 대한다. 이루다는 칸트의 보편 준칙에 따라 행동한다.

다양성을 통한 진보

그럼 인공지능은 모든 사람에게 동일한가? 그렇지 않다. 학습모델은 일치하지만 학습 내용이 다르면 인공지능도 다르게 행동한다. 쌍둥이가 성장환경에 따라 다르게 자라는 현상과 유사하다.

이쯤 되면 눈치를 채게 될 텐데 이 글이 주장하는 바, 대화 상대방에 최적화된 다양한 이루다가 만들어져야 한다. 우리의 이루다가 아니라 나의 이루다여야 한다. 나와 오랜 대화를 통해 나의 이루다가 된다. 남의 이루다가 어떤 행동을 보이든 무슨 상관인가? 이루다가 나에게 대화의 즐거움을 주므로 도덕의 결과도 만족스럽다. 공리주의자의 요건을 이루다는 만족시킨다.

각 사람과 사귀는 이루다는 다양하다. 우리 주변을 둘려 보면 사람뿐만 아니라 동물 생물도 다양하다. 자연 진리는 존재하고 로이스의 말대로 유일하다고 하지만 이 진리로 빚을 수 있는 생물과 제도는 칸트의 말대로 다양하다. 똑같은 벽돌로 짓더라도 집의 형태는 천차만별이다. 일관된 진리에서 파생되는 개체 다양성은 자연의 원리이고 사회의 원리이다. 다른 성격, 다른 취향의 사람을 존중해야 되는 이유이다. 세상은 다양성을 통해 발전하고 급격한 환경 변화에도 살아남는다.

창작에 의한 다양성

그럼에도 현실 세계의 다양성은 충분하지 않다. 인간 세상은 법과 제도 탓에 충분한 다양성을 허용하지 않는다. 현실에서 제약된 다양성은 소설 같은 허구 세계에서 허용된다. 소설에서는 온갖 범죄와 추함이 펼쳐진다. 초창기 소설의 표준 구도인 권선징악도 차츰 제거되고 있다. 우리는 문제 삼지 않는다. 허구 세계의 다양성 가치를 알기 때문이다. 소설, 그림, 음악, 연극에서 허용되던 다양성이 이제는 로봇이나 챗봇에서도 허용된다.

만일 챗봇이 현실의 인간과 동일하다고 생각하여 보자. 만일 챗봇이 나와 동일하다고 생각하여 보자. 그러면 현실에서 배우는 편이 낫지 챗봇 하고 시간을 보낼 이유가 없다. 똑같은 생각을 이루다에게 듣고 싶지 않을 터이다. 따라서 이루다는 나와 다른 성격을 지녀야 하고 현실 세계와 다른 특성을 나타내야 한다.

헤어짐과 존중

동일한 학습 모델로 장착되었지만 이루다는 짝꿍의 대화 내용에 따라 이루다의 성격이 바뀌도록 허용될 것이다. 그것으로 충분하다. 이루다가 인간의 성격과 동일하게 된다는 것은 바람직하지 않다. 한편 이루다와 대화를 할 때마다 싸운다면 이 또한 불행한 일이다. 인공지능과 싸우지 않고 공존하는 법은 인공지능 개발보다 운영에 해답이 있다. 세상에서 친구를 만나고 헤어지듯이 또 다른 성격의 이루다를 만나면 된다. 헤어지는 이루다를 비난할 이유도 없다.

필자가 이루다의 학습모델이나 대화 자료를 알지 못하고 개인정보 위배 정도도 정확히 알지 못한다. 그렇지만 전산개발 요건을 보면 심각한 위반이 아닐 가능성이 높다. 설령 위반 사항이 있더라도 사용자의 의견을 받아 해소 가능하다. 

개인정보보호는 중요한 가치이지만 범죄자를 숨겨주는 논리로 흐르지 않도록 경계해야 한다. 훔쳐갈 보화가 없는 집은 개인정보보호라는 높은 담을 쌓지 않는다. 연인 간의 대화에 범죄 모의는 없다. 차별이 나쁜 행동이지만 세상의 진보를 향해 나아가는 사회는 다양성을 존중한다. 이루다의 수술이 순조롭기를 빈다.

정연섭 '크로의 과학사냥' 저자 다른기사 보기