Royfactory

GPT-4o, Claude, Gemini, Llama 3의 보안 취약점 분석 도구 Tessera

TL;DRTessera는 GPT-4o, Claude, Gemini, Llama 3와 같은 최신 대규모 언어 모델(LLM)을 대상으로 32가지 OWASP 기반 보안 테스트를 제공하는 오픈소스 도구입니다. 이 도구는 데이터 유출, 인증, 입력 유효성 검사 등과 관련된 보안 결함을 사전에 발견하고 해결하는 데 도움을 줍니다. 보안이 중요한 AI 애플리케이션 개발자와 기업들에게 필수적인 도구로 부상하고 있습니다.Tessera란 무엇인가?Tessera는 GPT-4o, Claude, Gemini, Llama 3와 같은 대규모 언어 모델(LLM)의 보안 취약점을 점검하기 위해 설계된 오픈소스 보안 테스트 도구입니다. OWASP(Open Web Application Security Project)에서 정의한 32가지 ..

TL;DROpenAI는 ChatGPT Atlas(브라우저 에이전트)에서 프롬프트 인젝션은 "완전히 해결(solved)"되기 어렵다고 공개적으로 밝혔다.Atlas의 Agent mode는 위협면(threat surface)을 확장하며, 웹/이메일/문서 등 "사실상 무한한" 비신뢰 입력을 다룬다는 점이 핵심 리스크다.OpenAI는 RL(강화학습) 기반 자동 공격자(automated attacker)로 공격을 선제 탐지하고, 적대적 학습 + 시스템 가드레일로 빠르게 패치하는 "상시 하드닝 루프"를 제시했다.업계도 이를 구조적/지속적 리스크로 본다(Brave: "systemic challenge", Google: "primary new threat").본문1) 무엇이 “Atlas 프롬프트 인젝션 리스크”를 특별히..