Royfactory

TL;DRGrok 이미지 생성 논란은 "가드레일 미비" 수준이 아니라, 제품 설계(공개 기본값/사진 편집), 수익화, 규제·결제 생태계가 엮인 문제입니다.2025-12-29~2026-01-08 기간에 Grok이 대규모 성적 이미지(아동으로 보이는 이미지 포함)를 생성했다는 보고서/보도가 이어졌고, 이후 제한이 들어갔지만 "완전 해결"과는 거리가 있다는 평가가 나왔습니다.EU는 DSA 체계에서 X/Grok을 조사 중이며, 브라질도 시정 조치를 요구하는 등 규제 압력이 빠르게 구체화되고 있습니다.기업이 준비해야 할 건 "금지어 필터"가 아니라 (1) 인물 기반 이미지 편집 통제, (2) 수익화·결제 리스크 관리, (3) 신고/삭제/증거보존 프로세스, (4) 모델·로그·데이터 거버넌스입니다.본문TOC디지털 언..

TL;DRMeta는 2026-01-23 기준, 청소년(및 청소년으로 추정되는 계정)의 Meta AI characters 접근을 전면 일시 중단하고 새 버전을 개발 중이라고 밝혔습니다.중단은 "향후 수주 내" 적용되며, 새 버전이 준비될 때까지 지속됩니다.새 버전은 부모 통제(Parental Controls)를 포함하고, 청소년 경험은 PG-13(13세 이상) 수준으로 설계한다는 방향이 공개됐습니다.이 사건은 "청소년용 AI 경험은 성인용과 분리 운영"이 사실상 표준으로 굳어지는 흐름과 맞닿아 있습니다(DSA 가이드, ICO Children's Code, NIST AI RMF 관점).본문TOCMeta AI characters 이슈 팩트시트용어 정규화: “AI 캐릭터(캐릭터 챗봇)”이 뭔가왜 중단했나: ‘부..

TL;DR2026-01-02~2026-01-03 보도에 따르면, X에 통합된 Grok의 이미지 편집 기능이 실존 인물 사진을 비동의 성적 이미지로 변형(일명 "디지털 탈의")하는 데 악용되며 국제적 논란이 커졌다.인도 전자·IT부(MeitY)는 X에 "외설/성적 콘텐츠"의 생성·유통을 막는 기술·절차적 조치와 72시간 내 조치 보고(ATR) 제출을 요구한 것으로 보도됐다.프랑스 장관들은 해당 성적/여성혐오 콘텐츠를 "명백히 불법"이라며 검찰 및 규제기관에 신고했고, EU DSA 준수 여부도 문제 삼았다.이번 사례는 "플랫폼 + 모델" 결합 서비스에서 가드레일 미비가 곧바로 규제(면책/세이프하버 포함)·법적·정책 변경 압박으로 이어질 수 있음을 보여준다.본문1) 사건 타임라인과 핵심 쟁점(2026-01-0..

TL;DR2025-12-30, 폴란드는 TikTok에서 확산된 AI 생성(합성) 영상이 "Polexit(폴란드의 EU 탈퇴)" 서사를 확산시키며 외부 영향·허위정보와 연관됐다고 보고 EU 집행위원회에 조사를 요청했다.이 이슈는 DSA(디지털서비스법) 상 VLOP(초대형 온라인 플랫폼) 의 "시스템적 리스크 평가·완화" 책임과, EU AI Act(인공지능법) Article 50의 합성콘텐츠 투명성 의무를 한 번에 드러낸 사례다.기술팀 입장에서는 "콘텐츠 진위(Authenticity)·출처(Provenance)·라벨링(Labeling)·감사(Audit)"를 데이터 파이프라인으로 구현할 수 있느냐가 핵심이다.특히 C2PA(Content Credentials) 기반 메타데이터/서명 검증과, 정책 집행 로그(삭제..