Royfactory

TL;DR2025-12-30, 폴란드는 TikTok에서 확산된 AI 생성(합성) 영상이 "Polexit(폴란드의 EU 탈퇴)" 서사를 확산시키며 외부 영향·허위정보와 연관됐다고 보고 EU 집행위원회에 조사를 요청했다.이 이슈는 DSA(디지털서비스법) 상 VLOP(초대형 온라인 플랫폼) 의 "시스템적 리스크 평가·완화" 책임과, EU AI Act(인공지능법) Article 50의 합성콘텐츠 투명성 의무를 한 번에 드러낸 사례다.기술팀 입장에서는 "콘텐츠 진위(Authenticity)·출처(Provenance)·라벨링(Labeling)·감사(Audit)"를 데이터 파이프라인으로 구현할 수 있느냐가 핵심이다.특히 C2PA(Content Credentials) 기반 메타데이터/서명 검증과, 정책 집행 로그(삭제..

TL;DR인스타그램 수장(Adam Mosseri)은 생성형 AI로 인해 사진·영상이 "현실의 기록"이라는 전제를 더 이상 둘 수 없다고 경고했다.그는 플랫폼이 AI 콘텐츠를 식별·라벨링하더라도 시간이 갈수록 더 어려워질 수 있어, "가짜를 찾기"보다 "진짜를 지문(fingerprint)으로 증명"하는 방향이 실용적일 수 있다고 언급했다.또한 "정갈한 정사각 피드" 중심의 과거 인스타그램은 이미 오래전에 끝났고, 사람들은 개인적 순간을 DM 중심으로 공유한다고 설명했다.이 글은 (1) 그의 문제의식, (2) 메타의 AI 라벨 정책, (3) C2PA/Content Credentials 기반 진위·출처 검증 흐름, (4) 실무 적용 체크리스트를 정리한다.본문1) “눈으로 본 것”이 증거가 아니게 되는 순간모세..

TL;DR대규모 투자: 틱톡은 AI 생성 콘텐츠(AIGC)의 무분별한 확산을 막기 위해 신뢰와 안전(Trust & Safety) 분야에 연간 약 20억 달러(약 2.8조 원)를 투자한다고 밝혔습니다.정책 강화: C2PA 기술을 도입해 AI 생성물을 자동 식별·라벨링하며, 이를 위반하거나 악의적인 딥페이크 유포 시 '무관용 원칙'으로 계정을 즉시 차단합니다.규제 준수: 한국 정부의 'AI 생성물 표시 의무화' 및 '24시간 내 긴급 차단' 정책에 적극 협조하여, 유해 콘텐츠의 99%를 선제적으로 삭제하고 있습니다.본문1. AI 생성 콘텐츠(AIGC) 범람과 틱톡의 대응 전략생성형 AI 기술의 발전으로 정교한 허위 정보와 딥페이크 영상이 급증함에 따라, 틱톡은 이를 플랫폼의 신뢰성을 위협하는 핵심 리스크로 ..