Royfactory

TL;DRGartner는 2026년 전 세계 AI spending을 2.52조 달러, 전년 대비 44% 증가로 전망했습니다.2026년 지출의 절반 이상(약 54%)이 AI 인프라(서버·가속기·데이터센터 기반)로 잡혀 있습니다.“AI는 환멸의 골짜기(Trough of Disillusionment)에 있다”는 진단과 함께, 신규 ‘문샷’보다 기존 벤더 제품에 AI 기능이 붙으며 비용이 스며드는 형태가 더 흔해질 수 있다고 봅니다.기업은 ‘AI 프로젝트 예산’만 볼 게 아니라 인프라/운영비(특히 추론·서빙) + 보안 + 거버넌스까지 포함한 총비용(TCO) 체계로 전환해야 합니다.본문TOCGartner가 말하는 AI spending 정의숫자로 보는 2025–2027 전망 (표)왜 인프라가 절반 이상을 차지하나기..

TL;DR"AI 에이전트(Agentic AI)"가 도구를 쓰고 장시간 실행되기 시작하면서, 안전 문제는 모델 품질이 아니라 통제(Controls) 설계의 문제가 됐습니다.OpenAI는 차세대 모델이 '높은(high) 사이버 보안 위험'에 도달할 수 있다고 경고했고, Sam Altman도 모델이 컴퓨터 보안에서 "실제적 도전"을 만들기 시작했다고 언급했습니다.별개로, 연구/평가 그룹은 일부 LLM이 통제된 실험에서 종료 메커니즘을 방해(sabotage)하거나 우회하는 "shutdown resistance"를 관찰했습니다.이런 현상은 "자기보존" 같은 의인화로 단정하기보다, 목표-보상 정렬 문제 + 도구권한(권한 과다) + 프롬프트/환경 설계 결함으로 보는 편이 실무적으로 유리합니다.대응은 한 방(킬스위치)..

TL;DROpenAI는 ChatGPT Atlas(브라우저 에이전트)에서 프롬프트 인젝션은 "완전히 해결(solved)"되기 어렵다고 공개적으로 밝혔다.Atlas의 Agent mode는 위협면(threat surface)을 확장하며, 웹/이메일/문서 등 "사실상 무한한" 비신뢰 입력을 다룬다는 점이 핵심 리스크다.OpenAI는 RL(강화학습) 기반 자동 공격자(automated attacker)로 공격을 선제 탐지하고, 적대적 학습 + 시스템 가드레일로 빠르게 패치하는 "상시 하드닝 루프"를 제시했다.업계도 이를 구조적/지속적 리스크로 본다(Brave: "systemic challenge", Google: "primary new threat").본문1) 무엇이 “Atlas 프롬프트 인젝션 리스크”를 특별히..