AI 스타트업은 과거로부터 무엇을 배울까?

2023-01-16

alookso 재직 당시 게재한 글.

1.
렌사(Lensa)라는 앱이 있습니다. 셀카 보정 기능 등을 제공하는 사진 편집 앱으로, 2022년 12월 한 달 동안 1천만회 이상 다운로드를 기록하며 빠르게 앱스토어 상위권에 올랐습니다. 급격한 인기 상승의 배경에는 11월 말 유료로 런칭한 “매직 아바타” 기능이 있습니다. 생성AI 알고리즘을 이용해 사용자를 닮은 일러스트레이션을 생성해주는 기능입니다.

렌사의 사용자가 늘어나면서 앱을 둘러싼 논란도 생겨났습니다. (관련 보도: AI타임스)

• 생성된 이미지가 여성의 신체를 나체로 표현하는 등 성적으로 대상화하며, 아시안 여성에 대해서는 그런 경향이 더 심한 것으로 보이는 인종주의적 사례
• 사용자 데이터의 무제한 상업적 이용을 서비스 측에 허락하는 이용약관

이에 대해 렌사를 개발한 프리즈마 랩스 측은 다음과 같은 해명을 제시했습니다.

• 편향은 인터넷 데이터를 반영한 결과이며, 줄이기 위한 노력을 하고 있지만 놓치는 사례가 있을 수 있다
• 이용자의 사진은 AI 알고리즘 처리를 위해서만 사용되며, 아바타 제작 후 보관하지 않는다

2.
페이스앱(FaceApp)이라는 앱이 있습니다. 셀카 보정 기능 등을 제공하는 사진 편집 앱으로, 2017년에 런칭한 뒤 수 차례 바이럴한 인기를 끌며 앱스토어 상위권을 차지했습니다. 인기 상승에 일조한 것은 다양한 AI기반 필터 기능으로, 얼굴 사진을 웃는 표정으로 바꿔주거나 ‘매력적’으로 수정하는 기능, 노화 필터, 성별 바꾸기 등이 있습니다. AI 알고리즘을 이용해 사용자의 사진을 수정해주는 기능입니다.

페이스앱에 대한 관심이 커지면서 앱을 둘러싼 논란도 생겨났습니다.

• 생성된 이미지가 흑인의 피부를 하얗게 만들거나, ‘인종 필터’ 등 차별적 결과물이 생성된 사례
• 사용자 데이터의 무제한 상업적 이용을 서비스 측에 허락하는 이용약관

이에 대해 페이스앱 측은 다음과 같은 해명을 내놓았습니다.

• 편향은 학습 데이터로부터 발생한 것이며, 의도한 것이 아니고 개선하고 있다
• 이용자의 사진은 대부분 업로드 후 48시간 내에 삭제된다

위의 두 사례에서 다른 것은 앱의 이름과 문제가 된 기능의 세부사항 정도로, 몇 년의 시간차를 두고 벌어진 사실상 똑같은 이야기입니다. 이렇게까지 비슷한 논란이 재현되는 배경은 무엇일까요. 렌사를 만드는 프리즈마 랩스 같은 인공지능 스타트업은 과거로부터 배우는 게 없는 걸까요? 인공지능을 구성하는 기계학습 기술의 핵심이 과거 자료에서 패턴을 분석하는 것임을 생각하면 다소 역설적이기까지 합니다.

하지만 어쩌면, 프리즈마 랩스는 과거의 논란으로부터 교훈을 얻고 그에 합당하게 사업을 진행한 것일지도 모릅니다. 물론 사진 앱 두 개를 놓고 스타트업계 전체의 역사적 교훈을 논하는 건 무리일 테고, 프리즈마 랩스 측이 페이스앱에 대해서 어떤 생각을 가졌는지 또한 추측의 영역일 뿐입니다. 하지만 이들이 비슷한 기술적 접근으로 유사한 제품을 만드는 경쟁사 페이스앱이 겪은 논란을 무심히 넘겼으리라는 것도 그럴듯해 보이지는 않습니다.

페이스앱은 출시 이후 여러 차례에 걸쳐 화제가 되었습니다. 2017년 4월경 얼굴을 ‘매력적’으로 바꿔준다는 ‘핫’ 필터가 흑인의 피부를 하얗게 만드는 등 인종차별적이라는 비판을 받자 해당 기능을 제거하고 CEO가 사과하며 알고리즘의 학습 데이터 편향을 이유로 들었습니다. 2019년 7월경 ‘노화 필터’의 성공으로 다시금 주목받게 된 페이스앱은 포괄적 저작재산권을 회사 측에 제공하는 이용약관과, 모기업이 러시아 기반이라는 점 때문에 사용자 정보 및 사진 데이터를 활용하는 방식에 대한 우려 및 의심 섞인 시선을 받았습니다. 회사 측은 해당 의혹에 대해 보도 자료 등으로 해명하는 등 대외적인 노력을 기울여야 했으며, 페이스앱이 러시아로 데이터를 빼돌린다는 의혹은 확실한 근거가 없는 것으로 판명났으나 문제가 된 이용약관의 골자는 바뀌지 않았습니다. 페이스앱은 이후 2020년 다시 유행을 타는 등 순항했고, 공식 사이트에 따르면 현재까지 총 5억회 이상 다운로드되었습니다.

잠시 상상력을 발휘하여 렌사 개발사 프리즈마 랩스의 시점에서 페이스앱으로부터 어떤 교훈을 얻을 수 있었을지 생각해본다면 이런 것을 꼽아볼 수 있을 것 같습니다.

• 제품이 인종주의적이거나 성적 대상화를 한다는 혐의는 문제가 될 수 있다
• 기술적 결함에 대한 해명과 문제가 제기된 기능 삭제 등을 통해 위기에 대응할 수 있다
• 이용자 데이터 관련 저작재산권을 포괄적으로 서비스 측에 허락하는 이용약관 조항은 문제가 될 수 있다
• 데이터 사용 행태에 관한 해명 등 메시징으로 위기에 대응할 수 있다
• 위와 같은 문제가 발생하더라도 시장에서 성공하는 것은 가능하다

다시 말해 페이스앱의 교훈은, 페이스앱처럼 기술을 개발하고 사업을 진행하면 성공할 수 있다는 일종의 사례 연구 아니었을까요. 페이스앱에 대한 문제제기들은 근본적으로 데이터의 문제였습니다. 편향된 데이터로 학습시킨 AI 알고리즘으로 제품을 만드는 일, 제품 이용약관을 통해 사용자의 데이터에 관한 무차별적인 권리를 얻어내는 행태. 그리고 이런 문제제기가 사그라들었을 때 남은 결과는 건재한 사업이었습니다.

(이런 종류의 앱들이 특정 형태의 ‘아름다움’을 중심으로 구성된 사실상의 성형 앱이라는 지점도 문제적이지만, 그건 다른 기회에 할 이야기가 될 것 같습니다)

이것이 페이스앱, 렌사만의 문제는 아닙니다. 데이터를 무차별적으로 수집하고 엄밀한 검증 및 안전장치 없이 제품을 만든 뒤, 문제가 발생해도 약간의 PR 대응 외에 별다른 대가를 치르지 않는 것은 현재 테크 업계의 보편적인 작동방식이라고도 할 수 있습니다. 그 작동방식 자체를 바꾸기 위한 논의가 필요한 시점입니다.