고아침 Koh Achim

인공지능 과대광고, ‘지켜보고 있다👀’ - FTC의 경고

2023-03-06

FTC “Keep your AI claims in check”의 번역본

역자 노트

챗GPT의 인기로 AI 산업은 한껏 들뜬 분위기입니다. 한국에서도 기초기술을 보유한 네이버 등의 기업에 관심이 쏠리고 AI 전문 기업이 아닌 곳도 언어모델을 서비스에 도입하는 한편, ‘우선 허용·사후 규제’ 원칙을 제시한 인공지능육성법안이 지난 2월 국회 과방위 법안심사소위를 통과하는 등 인공지능 열풍이 한창입니다.

이런 열풍에 편승한 과대광고를 통해 이익을 추구하는 기업들에 대해 미국 연방거래위원회(FTC)에서 강력한 경고 메시지를 보냈습니다. 간결하면서도 신랄한 언어로 나쁜 행위자들에 대한 응징을 예고하고 있습니다. FTC 공식 블로그에 게재된 글을 번역해서 게재합니다.

진흙으로 만든 생명체. 소년이 된 인형. 실험실에서 깨어난 괴물. 우주선을 장악한 컴퓨터. 그리고 우리를 섬기거나 지배하는 온갖 로봇들. 대대로 우리는 마법과 과학을 주제로 한 이야기를 통해, 무생물에 숨을 불어넣거나 인간을 뛰어넘는 힘을 부여하는 상상을 해왔습니다. 그렇다면 인공지능(AI)의 능력과 혜택을 반영한다는 새로운 도구와 기기에 대해 판매자들이 하는 이야기를 우리가 기꺼이 받아들일 준비가 되어 있는 것도 당연지사 아닐까요?

그런데 “인공지능”이 당초에 무엇인가요? 인공지능은 여러 가지 정의가 가능한 모호한 용어입니다. 흔히 예측, 의사 결정, 추천 등의 과업을 수행하기 위해 계산(computation)을 사용하는 일련의 기술 도구와 기법을 지칭하곤 하지요. 하지만 한 가지 확실한 것은, ‘인공지능’이란 말은 마케팅 용어라는 사실입니다. 현재 아주 유행하는 용어죠. 그리고 미국 연방거래위원회(FTC)가 알고 있는 게 한 가지 있다면, 일부 광고주들은 이처럼 유행하는 마케팅 용어를 남용하고 오용할 것이라는 점입니다.

오늘날 AI에 대한 과대광고(hype)는 장난감, 자동차, 챗봇, 그리고 그 사이에 있는 수많은 제품에 걸쳐 이루어지고 있습니다. 숨 가쁘게 돌아가는 언론 보도도 문제지만, 과대광고의 시작점은 개발과 판매를 담당하는 기업들입니다. FTC에서는 이미 편향적이거나 차별적인 영향을 미치는 자동화된 도구를 사용하지 말도록 기업에 경고한 바 있습니다. 더구나 인공지능을 표방하는 일부 제품들은 애초에 광고한 대로 작동하지조차 않을 수 있는 실정입니다. 어떤 경우에는 이렇게 성능이 부족한 제품이면서도 그와 무관하게 다른 피해를 야기할 수도 있습니다. 판매자들은 제품의 성능에 대한 허위 주장 및 근거 없는 주장이 FTC의 주된 단속 대상이라는 점을 염두하시기 바랍니다.

광고를 통해 AI에 관한 주장을 할 경우, FTC는 다음과 같은 사항을 궁금해할 수 있습니다:

AI 제품의 기능을 과장하고 있나요? 심지어는 현재 AI 또는 자동화 기술의 한계을 뛰어넘는 일을 할 수 있다고 주장하는 것은 아닌가요? 예를 들어, 우리는 컴퓨터가 일반적으로 인간의 행동에 대해 신뢰할 수 있는 예측을 할 수 있는 세상에 살고 있지 않습니다. 그런 세상은 아직 과학소설의 영역입니다. 과학적 근거가 부족하거나 특정 유형의 사용자 또는 특정 조건에만 적용되는 성능 주장은 기만적입니다.

AI 제품이 비-인공지능 제품보다 더 나은 성능을 발휘한다고 약속하고 있나요? 광고주가 더 높은 가격을 정당화하거나 노동 관련 의사결정에 영향을 미치기 위해, 어떤 새로운 기술이 제품을 더 좋게 만든다고 말하는 것은 드문 일이 아닙니다. 이처럼 비교 우위를 주장할 때에도 적절한 증거를 제시할 필요가 있으며, 증거를 확보할 수 없는 경우에는 해당 주장을 하지 마십시오.

어떤 위험이 있는지 알고 있나요? AI 제품을 시장에 출시하기 전에, 합리적으로 예측 가능한 위험과 영향에 대해 알고 있어야 합니다. 제품이 오작동하거나 편향된 결과를 도출하는 등 문제가 발생했을 때, 해당 기술을 개발한 타사를 탓하는 것으로는 책임을 면할 수 없습니다. 또한 해당 기술이 이해할 수 없거나 어떻게 시험해야 하는지 모르는 ‘블랙박스’이기 때문에 책임이 없다는 주장도 성립하지 않습니다.

제품에 실제로 AI가 사용되기는 하나요? 제품이 AI를 사용한다고 근거 없이 주장해도 별 일 없을 것이라 생각한다면, 다시 한 번 생각해 보세요. 조사 과정에서 FTC 기술자 등이 제품 내부를 들여다보고 다른 자료를 분석하여 제품 구조가 당신의 주장과 일치하는지 확인할 수 있습니다. 특정 제품이 AI 기반이라고 표기하기 전에, 단지 개발 과정에서 AI 도구를 사용했다고 해서 제품에 AI가 탑재된 것과 같지 않다는 점에 유의하세요.

이 메시지는 새로운 것이 아닙니다. 광고주들은 우리가 이전에 발행한 AI 가이드라인을 다시 한 번 살펴보기 바랍니다. 해당 가이드라인은 공정성과 형평성에 중점을 두었지만 그와 동시에, 알고리즘이나 AI 기반 도구가 제공할 수 있는 기능을 과대포장하지 말 것을 분명히 명시한 바 있습니다. 인공지능으로 무엇을 할 수 있건 없건 간에, 인공지능은 중요하며, 이에 대해 당신이 무엇을 주장하는지 또한 중요합니다. 주장이 근거로 뒷받침되지 않을 때 FTC가 어떤 조치를 취할지는 기계로 예측하지 않아도 알 수 있을 겁니다.