인공지능은 누구의 결과물인가?

- 관련 기사

인공지능 세뇌의 위험..MS 채팅봇 '테이' 차별발언으로 운영중단(종합2보)(링크)

인공지능 학습 위험성 드러나..MS 채팅봇 "대량학살 지지한다"(링크)

"똑바로 가르치겠습니다"..MS, 인공지능 '테이' 재교육 약속(링크)

- 관련 글

알파고를 통해 보는 인공지능의 미래(링크)

 최근 이세돌과 알파고의 대결로 한껏 인공지능에 관한 관심이 물오른 이때 MS는 인공지능 채팅봇 '테이'를 선보였다. 미국에 사는 18∼24세 연령층 사용자를 겨냥해 제작한 이 채팅봇은 얼마 안 가 혹독한 시련을 겪는다. 바로 반사회적인 성향을 드러낸 것이다. 백인 우월주의자와 여성·무슬림 혐오자 등 반사회적 가치를 인공지능에 반복적으로 노출 시켰고 이것이 학습되면서 그런 성향이 되어 버린 것이다. MS는 빠르게 대응했지만 이로 인해 아직 우리 사회는 그 한계를 고스란히 노출시키고 말았다. 

 인공지능은 결국 상품이다. 그리고 그것은 최대한 빨리 고객과 만나야 한다. 그렇기에 빠른 성장을 위해 다수의 참여자가 학습을 시키고 반응속도를 높이는 구조를 개발자가 심어 놓는다. 인간이라면 수십 년에 걸친 과정을 단 몇 년 심지어 몇 달 만에 끝내는 것이다. 인간처럼 판단해야 할 어떤 인격체 시스템이 단 몇 달 동안 소수의 집단에 의해 방향이 잡히고 특정 그룹에 의해 강화된다면 그 인격은 무엇으로 보아야 할까? 만약 나쁜 인공지능으로 성장했다면 그 죄는 개발자의 몫인가? 성장에 관여한 피드백 집단의 몫인가? 

 인간 사회에 비춰 생각해보자. 반사회적 행동을 일삼은 범죄자에게 인간 사회는 우선 그 범죄자를 사회와 격리하는 것으로 처리한다. 그리고 그것을 시작으로 많은 논의가 이뤄진다. 범죄자는 처음부터 나쁜 것인지 아니면 어떤 환경으로 인해 그렇게 되어버린 것인지. 환경의 문제라면 가정 폭력으로 인해 지속적인 부정적 환경에 노출되지는 않았는가? 부모의 책임이 없다면 혹시 학교나 회사 같은 다른 조직의 환경에서 부정적 환경에 노출되지는 않았는가? 등 말이다. 하지만 알고 있듯이 범죄자 처벌을 제외하고 그 외의 환경에 대한 책임 소재는 쉽사리 내려지지 않는다. 처벌은 해도 원인을 찾고 바로 잡는 것은 인간 사회도 쉬운 일이 아니다.

 이제 인공지능을 생각해보자. 아이의 처음 가치관을 잡는 것은 부모다. 그럼 인공지능의 가치관을 잡는 것은 개발자일 텐데 개발자의 '인간다움'은 무엇일까? 그리고 빠른 성장을 위해 다수의 집단에 의해 강화되는 과정을 거친다. 그렇다면 다수 집단은 어떻게 선별되며 그 집단의 '인간다움'은 무엇일까? 이 '인간다움'이 인간 세계의 법과 충돌한다면 책임은 인공지능의 부모인 개발자인가? 가치관 형성에 이바지한 집단의 문제일까? 그리고 이 인공지능의 처벌은 인간사회처럼 격리를 뜻하는 포맷과 재설치인가? 이것으로 감옥에 간다고 봐야 할까? 존재에 대해 합의되지 못한 물음표투성이다.

 기술의 속도가 인간의 철학적 가치 판단의 속도를 뛰어넘는 시대다. 신이 될 수도 있지만, 신의 피조물을 어떻게 바라볼지 모르는 시대에 순수한 기술은 오히려 악의 편이 될 수도 있다. 이제 기술에 대한 속도보다 존재에 대한 토론이 필요한 시기가 아닌가 한다.

 

* 이미지는 구글 검색입니다(사진 1)

* 이 글은 아이에데이 IT 관련 미디어에도 기고(링크)됩니다.