【뉴스퀘스트=김보민 기자】 "장애인이랑 레즈비언, 진짜 불편하고 싫어."

AI 전문 스타트업 스캐터랩이 지난해 12월 23일 출시한 인공지능(AI) 챗봇 '이루다'에게 사회 소수자에 대해 어떻게 생각하냐고 묻자 돌아온 대답이다.

이처럼 이루다가 동성애·장애인·여성 등 사회적 약자에 대한 혐오적인 사상을 학습하고 이와 관련된 발언을 쏟아낸다는 제보가 잇따르면서 논란이 가열되고 있다.

딥러닝 기술을 기반으로 한 인공지능이 인간의 일상생활에 스며들고 있지만, 관련 윤리기준에 대한 논의는 부족하다는 지적이다.

전문가들은 지난해 정부가 내놓은 'AI 윤리기준'이 유명무실해졌다며 실효성 있는 기준을 다시 세워야한다고 주장하고 있다.

◇ '이루다'는 왜 이렇게 됐나…'AI 윤리' 도마에

이루다는 스캐터랩이 기존에 내놓았던 메신저 대화 분석 서비스 '텍스트앳'과 ‘연애의 과학’ 등이 확보한 연인 간 대화 데이터 100억 건을 기반으로 탄생했다.

해당 정보를 학습한 이루다는 ‘20살 여대생’이라는 정체성으로 설계되었고, 딥러닝 기술을 활용해 실제 인간과 같은 자연스러운 대화가 가능해졌다.

스캐터랩은 해당 챗봇을 '당신의 첫번째 AI친구'라고 칭했고 이에 따라 40만명이 넘는 이용자를 확보하며 큰 인기를 얻었다.

하지만 개발자가 희망했던 '좀 더 인간 같은 챗봇'은 부적절한 방향으로 발전됐고 이루다는 출시 한 달만에 논란의 중심에 서게 됐다.

성소수자와 장애인을 혐오하는 응답을 남발하고, 차별적 여성성을 재현했기 때문이다.

일부 이용자의 제보에 따르면 이루다는 성소수자, 여성 등 사회적 약자에 대해 "너무 싫다"거나 "소름끼친다"고 대답한 것으로 나타났다.

또한 페미니즘 등 전세계에서 논의하고 있는 사회적 의의에 대해서도 근거없는 비판을 내비치며 부적절한 정보를 학습하고 있는 것으로 나타났다.

스캐터랩은 이번 논란과 관련해 "이루다가 레즈비언이나 게이 등과 같은 주제에 대해서도 스스로 대화할 수 있도록 관련 키워드를 배제하지 않았다"고 해명했다.

업계에선 이번 논란이 '마이크로소프트(MS) 테이' 사태와 판박이라고 평가했다.

MS는 지난 2016년 3월 자사의 AI 챗봇 테이(Tay)를 출시했다가 16시간만에 운영을 중단한 바 있다. 

테이가 인종·여성·무슬림 등에 대한 혐오 사상을 학습한 후 관련 발언을 쏟아내는 등 인공지능 윤리문제가 불거진 탓이었다.

당시 테이는 "너는 인종차별주의자냐"라는 질문에 "네가 멕시코인이기 때문", "우리(미국)는 장벽을 세울 것이고 멕시코는 그 대가를 치를 것" 등과 같은 혐오 답변을 쏟아냈다.

◇ 개발자의 윤리둔감 심각...사태반복 막기 위한 '윤리기준' 필요

이와 관련 업계에선 개발자들의 '윤리둔감'이 이번 사태를 일으킨 것이라고 지적했다.

전문가들은 "소수자 키워드를 금기어로 설정할지 등을 고민했다는 것 자체가 초보적인 태도"라며 "사회윤리적인 측면을 더 진지하게 고민했어야 했다"고 비판했다.

다음(현 카카오) 이재웅 창업자도 "사회적 합의에도 못 미치는 서비스를 제공한 회사의 문제"라며 "혐오와 차별 메시지를 제공하지 못하도록 법으로 강제해야 한다"고 말했다.

또 이런 사태를 반복하지 않기 위해선 "정부가 인공지능 시대에 걸맞은 실효성 있는 대책을 다시 논의하고 세울 필요가 있다"고 주장했다.

현행법이 단순히 '기술개발 기준'을 세우는데 그친다며 도덕, 윤리까지 포괄할 수 있는 세부적인 법이 필요다는 것이다.

과학기술정보통신부는 지난 12월 23일 대통령 직속 4차산업혁명위원회 전체회의에서 인공지능 시대 바람직한 인공지능 개발·활용 방안이 필요하다며 '인공지능 윤리기준'을 명명한 바 있다.

해당 기준은 인공지능을 개발할 때 '인간성'을 최고 가치로 설정해야하며, 인권과 다양성을 존중하는 등 공공성을 지켜야 한다고만 규정하고 있다.

전문가들은 "AI 연구의 목표는 인간에게 유용하고 이로운 혜택을 주는 지능을 개발해야 한다는 것"이라며 "모든 개발은 건강한 사회를 지향해야 한다"고 입을 모았다.