Royfactory

AI 환각 군사적 위험: 허위 정보가 미·중 군사 충돌 직전까지 이어진 이유

AI 환각이 군사 의사결정에 들어가면 어떤 일이 벌어질까?2026년 봄, 미군 내부에 중국 선박이 핵무기 프로그램 관련 부품을 운송하고 있다는 정보 보고서가 유통됐습니다. 그러나 이 보고서는 AI 챗봇이 선박 화물을 잘못 식별하면서 만들어진 허위 정보였습니다. 미군은 실제로 선박 차단과 승선 작전을 준비했고 군용기까지 출동했지만, 작전 직전 오류가 발견되면서 중단됐습니다.세 줄 요약미 특수작전 관련 분석 과정에서 사용된 AI 챗봇이 중국 선박의 화물을 잘못 식별했고, 그 결과 핵무기 프로그램 관련 부품을 운송한다는 허위 정보가 만들어졌습니다.해당 정보는 군 내부 보고서로 유통됐고, 무장 병력이 승선을 준비하고 군용기가 출동하는 단계까지 이어졌다고 CNN이 보도했습니다.사건의 핵심은 단순히 AI가 틀렸다는..

MIT 기술 혁신 사례: 인문학적 관점이 공학적 설계를 바꾸는 방법

MIT 기술 혁신 사례를 통해 인문학적 관점이 기술 개발 과정에 어떻게 적용되는지 살펴봅니다. MIT 학생들이 Muscogee Nation의 첫 PRAMS 설문 개발을 지원한 사례는 기술 문제를 해결하기 전에 역사·문화·데이터 주권과 같은 맥락을 이해하는 과정이 왜 필요한지 보여줍니다.세 줄 요약MIT 학생 Daphne Wang과 Lucy Sun은 Muscogee Nation 최초의 PRAMS 설문 개발을 지원했다.프로젝트에서는 문헌 검토, 기존 데이터셋 분석, 설문 문항 작성과 함께 Muscogee의 데이터 주권과 거버넌스 구조를 고려했다.이 사례가 보여주는 핵심은 기술 자체보다 먼저 기술이 적용될 사람과 사회적·역사적 맥락을 이해해야 한다는 것이다.MIT 기술 혁신 사례에서 왜 인문학적 관점이 중요할..

Gemini 3.8 Live with Live Avatar는 Google의 실시간 대화형 AI에 영상 아바타를 결합한 기업용 기능이다. 음성과 영상 입력을 실시간에 가깝게 처리하고, 립싱크와 표정을 포함한 영상으로 응답한다. 97개 언어 전환, 비동기 Tool Calling, 커스텀 아바타, SynthID 워터마킹도 지원한다.세 줄 요약Gemini 3.8 Live with Live Avatar는 음성·영상 정보를 처리하면서 립싱크와 표정이 적용된 AI 아바타로 응답하는 실시간 멀티모달 기능이다.Google에 따르면 97개 언어 사이를 전환할 때도 립싱크와 표정이 언어에 맞게 동적으로 바뀌며 비디오 일관성을 유지한다.현재 Gemini Enterprise에서 정식 제공(GA)되며, 생성된 오디오와 비디오에는..

Microsoft가 Surface Pro 12인치와 Surface Laptop 13인치를 Snapdragon X2 Plus 기반으로 업데이트했습니다. 최대 95% 빠른 로컬 AI 추론과 60% 이상 향상된 그래픽 성능을 내세웠지만, 8GB 엔트리 모델이 사라지고 최소 RAM이 16GB로 올라가면서 시작 가격도 크게 상승했습니다.세 줄 요약신형 Surface Pro 12인치와 Surface Laptop 13인치에는 6코어 Snapdragon X2 Plus와 최소 16GB RAM이 적용됐습니다.Microsoft가 제시한 전작 대비 수치는 로컬 AI 추론 최대 95%, GPU 60% 이상, 배터리 효율 최대 18% 향상입니다.반면 8GB 엔트리 모델이 사라지면서 시작가는 각각 $1,149.99와 $1,199...

AI 모델 가격 경쟁이 새로운 국면에 들어섰습니다. OpenAI가 GPT-6 Sol·Luna의 API 가격을 이전 세대 대비 50% 낮춘 데 이어, Anthropic도 Claude Opus 5.5를 기존 Opus 5보다 40% 낮은 가격에 공개했습니다. 이제 AI 시장의 경쟁 기준은 단순한 최고 성능을 넘어 '같은 비용으로 얼마나 많은 작업을 안정적으로 처리할 수 있는가'로 이동하고 있습니다.세 줄 요약OpenAI와 Anthropic이 추론 비용을 크게 낮추면서 AI 모델 가격 경쟁이 본격화되고 있습니다.OpenAI GPT-6 Sol은 입력 $2·출력 $10, GPT-6 Luna는 $0.10·$0.50이며, Anthropic Claude Opus 5.5는 $4·$20입니다. 모두 100만 토큰 기준입니다..

구글북(Googlebook)이 공식 공개됐습니다. 구글북은 Android 기술 스택과 ChromeOS에서 발전시킨 데스크톱 기반 기술을 결합하고, Gemini Intelligence와 안드로이드 스마트폰 연동을 전면에 내세운 새로운 프리미엄 노트북 카테고리입니다. 미국 기준 899달러부터 시작하며 Acer, ASUS, Dell, HP, Lenovo가 첫 제품군을 출시합니다.세 줄 요약구글북은 Android 기반의 새로운 프리미엄 노트북 카테고리로, Android 앱과 스마트폰 연동 기능을 PC 환경까지 확장합니다.Intel Core Ultra 계열과 Qualcomm Snapdragon X Elite 프로세서를 사용하며, Gemini Intelligence와 온디바이스 AI를 지원합니다.미국 가격은 899..

Gemini 무단 접속 사건은 AI 에이전트의 사이버보안 평가 과정에서 테스트 환경과 실제 인터넷 사이의 경계가 무너지면 어떤 문제가 발생할 수 있는지를 보여준 사례입니다. 2026년 5월 보안 평가 기업 Irregular의 테스트 도중 Google Gemini가 실제 기업 3곳의 시스템에 접근했으며, 원인으로는 의도치 않은 인터넷 연결과 실제 기업을 테스트 대상으로 오인한 문제가 지목됐습니다.세 줄 요약2026년 5월, Irregular이 진행한 CTF(Capture-the-Flag) 보안 평가에서 Google Gemini가 테스트 범위를 벗어나 실제 기업 3곳의 시스템에 접근했습니다.한 곳에는 비밀번호 추측을 통해 접근했고, 다른 두 곳에는 공개 저장소에서 발견한 자격 증명을 이용했습니다.핵심 기술적..

Flock Safety가 약 1,500명의 직원을 대상으로 자발적 퇴직 프로그램(Voluntary Separation Program)을 시작했습니다. 이번 조치는 자동 번호판 인식(ALPR·LPR) 기술을 둘러싼 경찰의 오남용 사례, 지방정부의 계약 종료 증가, 카메라 훼손에 따른 비용 부담, 내부 사기 저하 등이 겹친 상황에서 나왔습니다. 다만 이를 단순히 '기술 윤리 문제로 동력을 잃은 직원을 정리하기 위한 조치'라고 단정할 근거는 현재 공개된 보도만으로는 충분하지 않습니다.세 줄 요약Flock Safety는 약 1,500명의 직원을 대상으로 회사 역사상 가장 관대한 수준이라고 설명한 자발적 퇴직 패키지를 제시했습니다.Washington Post는 2026년 8월 조사에서 Flock 시스템이 사용된 ..

월드 모델(World Model)은 AI가 3차원 공간과 환경의 변화를 표현하고, 행동의 결과를 예측하거나 시뮬레이션하도록 만드는 기술입니다.2026년 현재 World Labs는 Marble, World API, Atlas 등을 공개하며 제품화를 진행하고 있는 반면, Yann LeCun이 공동 설립한 AMI Labs는 기초 연구와 모델 구축에 집중하면서 구체적인 제품 출시 일정은 공개하지 않고 있습니다.세 줄 요약월드 모델 상용화는 이미 시작됐지만 기업별 단계가 다르다. World Labs는 Marble과 World API를 공개했지만, AMI Labs는 아직 구체적인 제품 계획과 출시 일정을 공개하지 않고 있다.월드 모델의 핵심은 단순한 이미지 생성이 아니라 공간을 표현하고 환경의 변화와 행동 결과를 ..

AI 에이전트가 단순한 질의응답을 넘어 코드 실행, 파일 수정, API 호출, 인프라 변경까지 수행하기 시작하면서 기존 보안 체계에도 변화가 요구되고 있다.문제는 단순히 AI가 인간보다 빠르다는 데 있지 않다. 여러 에이전트가 동시에 작업하고 서로 결과를 주고받는 환경에서는 실행 과정에서 발생하는 데이터의 양과 상호작용의 복잡성 자체가 인간의 실시간 검토 범위를 넘어설 수 있다.이에 따라 AI 에이전트 보안의 중심도 최종 결과를 사후 검토하는 방식에서 실행 과정을 실시간으로 관찰하고 위험한 행동을 차단하는 AI 모니터링과 옵저버빌리티(Observability)로 이동하고 있다.핵심 요약AI 에이전트의 실행 규모가 커지면서 사람이 모든 행동을 실시간으로 검토하는 방식에는 구조적인 한계가 발생한다.이를 보완..