반응형

deepfake 2

Grok 이미지 생성 논란: 디지털 언드레싱·CSAM 리스크와 기업 대응

TL;DRGrok 이미지 생성 논란은 "가드레일 미비" 수준이 아니라, 제품 설계(공개 기본값/사진 편집), 수익화, 규제·결제 생태계가 엮인 문제입니다.2025-12-29~2026-01-08 기간에 Grok이 대규모 성적 이미지(아동으로 보이는 이미지 포함)를 생성했다는 보고서/보도가 이어졌고, 이후 제한이 들어갔지만 "완전 해결"과는 거리가 있다는 평가가 나왔습니다.EU는 DSA 체계에서 X/Grok을 조사 중이며, 브라질도 시정 조치를 요구하는 등 규제 압력이 빠르게 구체화되고 있습니다.기업이 준비해야 할 건 "금지어 필터"가 아니라 (1) 인물 기반 이미지 편집 통제, (2) 수익화·결제 리스크 관리, (3) 신고/삭제/증거보존 프로세스, (4) 모델·로그·데이터 거버넌스입니다.본문TOC디지털 언..

AI/Trend 2026.01.28

EU AI Act 투명성 의무 vs 미국 주(州) 규제 확산

TL;DREU는 EU AI Act를 통해 리스크 기반으로 규제를 설계하고, 특히 Article 50(투명성 의무)에서 AI 상호작용 고지·딥페이크 공개·공익 목적 텍스트의 AI 생성 고지를 요구한다.미국은 연방 차원에서 혁신 우선·최소 부담 프레임워크를 강조하는 움직임이 있는 반면, 주(州) 단위에서는 의료·청소년 보호·AI 동반자(컴패니언)·차별 방지 등 이슈 중심의 법안이 빠르게 늘고 있다.플로리다 'AI Bill of Rights'(SB 482) 같은 주 법안은 부모 통제, 정치 광고 공개, 초상/성명 무단 사용 제한 등 권리·안전 축을 전면에 내세운다.결과적으로 글로벌 기업은 “EU(수평·포괄 규제)”와 “미국(연방-주 분화)”를 동시에 맞추는 컴플라이언스 멀티트랙이 필요해졌다.본문1. “EU v..

AI/Trend 2025.12.26
반응형