반응형

TrustAndSafety 2

중국 ‘인간처럼 상호작용하는 AI’ 규제 초안 핵심 정리(과몰입 경고·개입 의무)

TL;DR중국 국가인터넷정보판공실(CAC)이 '인공지능 의인화 상호작용 서비스 관리 잠행방법(의견수렴안)' 초안을 2025-12-27 공개하고 2026-01-25까지 의견을 받는다.적용 대상은 중국 내 대중에게 사람의 성격·사고·대화 스타일을 모사하며 텍스트/이미지/음성/영상으로 감정적 상호작용을 제공하는 AI 제품·서비스다.핵심 의무는 (1) 과몰입 경고(연속 2시간 사용 시 팝업), (2) 중독·극단 감정 징후 시 개입, (3) "AI와 대화 중"임을 상시 고지, (4) 미성년자 모드·보호자 통제, (5) 일정 규모 이상 안전평가 및 보고 등이다.규제 방향은 기존 중국의 생성형 AI·콘텐츠 라벨링·데이터/개인정보 체계 위에 '심리·정서 안전(의존/중독)'을 전면으로 끌어올린 점이 특징이다.본문1) '..

AI/Trend 2025.12.28

틱톡, AI 생성 콘텐츠 대응 대규모 투자 및 24시간 차단 시스템 구축

TL;DR대규모 투자: 틱톡은 AI 생성 콘텐츠(AIGC)의 무분별한 확산을 막기 위해 신뢰와 안전(Trust & Safety) 분야에 연간 약 20억 달러(약 2.8조 원)를 투자한다고 밝혔습니다.정책 강화: C2PA 기술을 도입해 AI 생성물을 자동 식별·라벨링하며, 이를 위반하거나 악의적인 딥페이크 유포 시 '무관용 원칙'으로 계정을 즉시 차단합니다.규제 준수: 한국 정부의 'AI 생성물 표시 의무화' 및 '24시간 내 긴급 차단' 정책에 적극 협조하여, 유해 콘텐츠의 99%를 선제적으로 삭제하고 있습니다.본문1. AI 생성 콘텐츠(AIGC) 범람과 틱톡의 대응 전략생성형 AI 기술의 발전으로 정교한 허위 정보와 딥페이크 영상이 급증함에 따라, 틱톡은 이를 플랫폼의 신뢰성을 위협하는 핵심 리스크로 ..

AI/Trend 2025.12.20
반응형