AI 시대의 그림자: 앱스토어의 '누디파이' 앱 검열과 플랫폼의 책임

앱스토어의 신뢰를 위협하는 '미끼 상품' 전략

최근 애플은 개발자 가이드라인을 대폭 강화하며, 인공지능(AI)을 악용해 불쾌감을 주는 콘텐츠를 생성하거나 앱스토어 심사를 통과한 뒤 뒤늦게 유해 기능을 활성화하는 이른바 '누디파이(nudify)' 앱에 대한 강력한 제재를 예고했다 [1]. 이러한 앱들은 심사 과정에서는 일반적인 편집 도구인 것처럼 가장하다가, 승인 이후에만 특정 기능을 드러내는 '미끼와 전환(bait-and-switch)' 전략을 구사한다 [1]. 애플은 이러한 기만적인 행위를 원천 차단하기 위해, 심사 당시와 다른 기능을 추가하는 앱을 즉시 삭제하겠다는 강경한 입장을 밝혔다 [1].

플랫폼의 방조인가, 관리의 한계인가

애플의 이번 조치는 단순히 개발자의 일탈을 막는 수준을 넘어, 플랫폼 자체가 유해 앱의 확산에 기여했다는 외부의 비판을 의식한 결과로 보인다. 기술 투명성 프로젝트(TTP)의 조사에 따르면, 애플과 구글의 앱스토어는 정책상 누디파이 앱을 금지하고 있음에도 불구하고, 검색 및 광고 시스템을 통해 오히려 사용자를 해당 앱으로 유도하고 있었다 [2]. TTP가 확인한 바에 따르면, 검색 결과에 유해 앱이 노출되는 것은 물론, 자동 완성 기능이 유해 검색어를 추천하거나 광고 슬롯에 관련 앱이 등장하는 사례가 빈번했다 [2].

이러한 현상은 플랫폼이 단순한 중개자를 넘어, 수익 창출 과정에서 유해 콘텐츠의 확산을 방조했다는 지적을 피하기 어렵게 만든다. 실제로 TTP의 조사 대상이 된 앱들은 누적 4억 8,300만 회 이상의 다운로드 수를 기록했으며, 약 1억 2,200만 달러 이상의 수익을 창출한 것으로 추정된다 [2]. 특히 일부 앱은 미성년자에게 적합한 등급으로 분류되어 있어, 디지털 성범죄와 딥페이크 스캔들이 사회적 문제로 대두되는 상황에서 플랫폼의 관리 책임에 대한 의문이 제기된다 [2].

규제와 실효성 사이의 불확실성

애플은 작년 한 해에만 15만 개 이상의 앱을 차단하고 19만 3천 개의 개발자 계정을 삭제했다고 밝히며 자정 노력을 강조하고 있으나, 실효성에 대해서는 여전히 의문이 남는다 [1]. 구글의 경우, 정책 위반이 보고될 때마다 조사 후 조치를 취하고 있다고 답변했으나, 구체적으로 왜 검색 알고리즘이 유해 앱을 추천하는지에 대해서는 명확한 해명을 내놓지 못했다 [2]. 이는 플랫폼의 자동화된 검열 시스템이 인간의 악의적인 기만 전략을 따라잡지 못하거나, 수익성 모델과 안전 가이드라인 사이에서 우선순위가 충돌하고 있을 가능성을 시사한다 [1, 2].

결국 기술이 고도화될수록 '누디파이'와 같은 악성 앱들은 더욱 정교한 방식으로 플랫폼의 그물을 빠져나갈 것이다. 플랫폼 기업들이 단순히 가이드라인의 문구를 수정하는 것을 넘어, 검색 알고리즘과 광고 시스템 전반에 걸쳐 유해 콘텐츠를 걸러낼 수 있는 근본적인 구조 개선을 이뤄낼 수 있을지, 아니면 규제 당국의 압박에 떠밀려 사후약방문식 대응을 반복할 것인지가 향후 플랫폼 신뢰도를 결정짓는 핵심이 될 것이다.

검증에 사용한 자료

[1] Apple updates guidelines to ban nudify apps masquerading as regular apps to pass review | TechCrunch — TechCrunch · 원문
[2] TTP - Apple and Google Are Steering Users to Nudify Apps — www.techtransparencyproject.org · 독립 참고 자료

링크된 자료는 사실 확인에 사용했으며, 분석과 해석의 책임은 본 사이트에 있습니다.