【뉴스퀘스트=김형근 기자】 5일동안의 해프닝 끝에, 다시 원위치 된 인공지능(AI) 업체 오픈AI의 샘 올트먼 CEO의 석연치 않은 해고 이유는 AI개발을 둘러싼 ‘윤리 문제’가 크게 작용했기 때문인 것으로 알려졌다.

당초 일부 전문가들은 이사진과 챗GPT의 신화의 주역인 올트먼과의 사내 권력 투쟁을 그 이유로 지적했다. 그러면서 오픈AI를 업계에서 반석 위에 올려놓은 올트먼이 ‘팽’ 당했는 지적도 있었다.

AI의 독보적 기업인 오픈AI의 전 CEO 올트먼이 복귀하면서 분쟁은 일단락되었지만 앞으로 첨단 AI개발을 둘러싼 소위 ‘AI의 윤리 문제’는 다시 불거질 것으로 보인다.

올트먼의 화려한 복귀? 오픈AI 풀어야 할 윤리 문제 산적

여론과 경영과 관련해 올트먼이 승리하고 화려하게 회사로 복귀했다는 일부 지적은 오픈AI라는 회사의 깊은 내막을 간파하지 못한 내용이다.

이사회와 CEO의 마찰은 소셜 및 전통 미디어에 많은 담론을 불러일으켰다. 그러나 양측의 이러한 불일치는 오픈AI라는 회사의 원래 설립 목적과 철학에서 비롯된다.

원래 오픈AI는 비영리 목적의 AI 연구 조직으로 일종의 비영리 연구단체에서 출발해 오늘날의 세계적인 AI의 선두기업으로 부상했다.

그들은 설립 목적에서 인간에게 “가장 안전하고 유익한” AI의 개발을 기업의 철학으로 삼았다. 그러나 이 업체가 개발한 AI가 세계적인 관심을 끌기 시작하면서 지주 회사의 영리와 비영리 성격 간의 구분이 모호해졌다.

뉴욕타임스(NYT)에 따르면 이번 올트먼의 축출과 양측의 대립은 이사회 구성원인 헬렌 토너(Helen Toner) 교수가 작성한 연구 논문에서 비롯됐다고 보도했다.

호주 출신의 컴퓨터 과학자 헬렌 토너는 AI 정책 분석가로 현재 조지타운 대학의 보안 및 신흥 기술 센터(CSET: Center for Security and Emerging Technology)에서 전략 및 기초 연구 보조금 책임자로 재직하고 있다.

토너 교수는 오픈AI에 합류하기 앞서 더스틴 모스코비츠 페이스북 공동창업자가 운영하는 ‘개방형 자선 프로젝트’(Open Philanthropy Project)의 수석 연구 분석가로 일하면서 AI 정책 및 전략에 대해 정책 입안자와 보조금 지급자에게 조언하는 역할을 맡기도 했다.

헬렌 토너는 MIT 컴퓨터 과학과 교수이자 소프트웨어 연구소 소장으로, AI 윤리와 안전 분야 연구로 잘 알려져 있다. 오픈AI의 윤리 지침 개발에도 참여했다.

NYT는 토너 교수는 오픈AI의 윤리 지침 개발에 참여하면서 AI의 윤리적 사용을 위한 10가지 원칙을 제안했다고 전했다.

올트먼, AI의 윤리를 줄곧 주장해 온 헬렌 토너 이사와 계속 마찰

이 원칙은 AI의 개발과 사용에 있어서 인간에게 이익이 되어야 하고 인간의 통제를 받아야 하는 점을 강조했다.

토너 교수는 논문에서 정부와 기업이 의사소통을 통해 자신의 의도를 명확히 하는 방법을 다루고 있다. 그녀는 ‘신호’라는 통신 도구를 정의하고, 오픈AI의 ‘신호 전달’ 접근 방식이 부적절하다고 비판했다.

특히 그녀의 이러한 비판 논문은 논문은 GPT-4 모델 출시를 둘러싼 오픈AI 활동에 초점을 맞췄기 때문에 챗GPT 개발자인 샘 올더먼과 대립할 수밖에 없었다.

오픈AI는 지난 2023년 3월에 최신 대규모언어모델(LLM)인 GPT-4를 발표했다. 이 모델 자체는 놀라운 기술적 성과였지만 토너 교수는 ‘신호’와의 관련성에서 오픈AI가 안전 약속을 위한 의사소통 도구로서 위험도를 완화하는 데 충분하지 않았다고 판단했다.

이는 GPT-4의 위험에 대한 정보를 제공하는 시스템 카드가 출시되었지만, 시스템 카드가 광범위한 대중에게 충분히 알려지지 않았기 때문이다.

그녀는 오픈AI는 GPT-4의 출시를 서두르기보다는, 안전성과 윤리성을 보다 철저히 검토해야 한다는 입장을 고수했다.

토너의 논문이 출판된 후 올트먼은 이에 불만을 표시했다. 그리고 오픈AI의 연구 책임자 일리야 수츠케버를 비롯한 경영진들과 토너를 이사회에서 축출할 것을 의논했다.

그러나 예상 외로 수츠케버는 토너 편에 섰다. 그리고 올트먼의 해고에 손을 들었다. 수츠케버는 AI 분야의 세계적인 석학으로, 딥러닝 분야의 선구자로 평가받고 있다.

결국 수츠케버의 결정은 오픈AI 내부의 분열을 야기했고, 결국 올트먼의 사임으로 이어졌다.

일부 언론들은 5일마에 끝난 해프닝을 오트먼의 승리로 ‘화려한 복귀’로 지적하면서 앞으로 그의 야망이 순탄대로로 진행될 것이라고 평가했다.

올트먼의 축출 과정은 오픈AI의 미래에 대한 우려를 불러일으켰다. 그가 다시 CEO로 돌아왔지만, 오픈AI가 AI 안전에 대한 약속을 앞으로 계속 유지할 수 있을지에 대한 의문이 제기되고 있다.

오픔AI로 볼 때 올트먼의 복귀가 그리 달가운 것은 아니다.