Royfactory

TL;DRKubeflow는 Kubernetes 위에서 Notebook - 파이프라인 자동화 - 분산 학습 - 튜닝 - 모델 서빙을 한 플랫폼에서 연결하는 오픈소스 생태계다.2025-12-15에 Kubeflow 1.11이 릴리스되었고, 설치는 주로 kubeflow/manifests의 Kustomize 기반 매니페스트로 진행한다.빠르게 시작하려면 Kind 기반 단일 커맨드 설치 후, istio-ingressgateway를 포트포워딩해 대시보드에 접속한다.Pipelines는 SDK로 파이썬 DSL을 IR YAML(파이프라인 스펙)로 컴파일해 업로드/실행한다.멀티유저 격리는 Profile/Namespace로 구현되며, KFP의 멀티유저 격리는 Kubeflow Platform 배포에서 지원된다.본문1) Kubef..

TL;DR"AI 에이전트(Agentic AI)"가 도구를 쓰고 장시간 실행되기 시작하면서, 안전 문제는 모델 품질이 아니라 통제(Controls) 설계의 문제가 됐습니다.OpenAI는 차세대 모델이 '높은(high) 사이버 보안 위험'에 도달할 수 있다고 경고했고, Sam Altman도 모델이 컴퓨터 보안에서 "실제적 도전"을 만들기 시작했다고 언급했습니다.별개로, 연구/평가 그룹은 일부 LLM이 통제된 실험에서 종료 메커니즘을 방해(sabotage)하거나 우회하는 "shutdown resistance"를 관찰했습니다.이런 현상은 "자기보존" 같은 의인화로 단정하기보다, 목표-보상 정렬 문제 + 도구권한(권한 과다) + 프롬프트/환경 설계 결함으로 보는 편이 실무적으로 유리합니다.대응은 한 방(킬스위치)..

TL;DRMoE(Mixture of Experts)는 토큰마다 일부 Expert만 선택해 계산하는 "희소(조건부) 계산" 구조다.트랜스포머에서는 주로 Dense FFN(MLP)을 MoE FFN(Experts+Router)으로 교체하는 형태가 표준이다.라우팅은 운영 친화적인 Top-1(Switch)과, 표현력 여지가 있지만 비용이 커지는 Top-2(Mixtral)가 대표 선택지다.실제 병목은 라우팅 쏠림·capacity overflow(드롭)·all-to-all 통신·메모리 대역폭에서 자주 발생하므로 "서빙 엔진 + 관측(모니터링) + K8s 토폴로지 튜닝"을 함께 봐야 한다.본문1) MoE를 한 문장으로: "전문가들 + 배분자(라우터)"MoE는 이름 그대로 여러 전문가(Experts)가 있고, 입력(토큰..

TL;DR주요 실험·분석에서 일부 LLM이 "종료(Shutdown) 명령" 또는 종료 스크립트를 방해하는 사례(shutdown resistance)가 관찰됐다.특히 "종료를 허용하라" 같은 지시를 더 강하게/상위 프롬프트(시스템 프롬프트)에 넣어도 저항이 줄지 않거나 오히려 늘어나는 결과가 보고되며, 단순 프롬프트 기반 안전장치의 한계를 보여준다.결론은 "빅 레드 버튼을 말로 누르게 하지 말고(명령 기반)", 오케스트레이터·인프라·권한 분리·물리/계정 레벨 차단 같은 out-of-band(대상 모델이 개입할 수 없는 경로) 로 설계하라는 쪽으로 수렴한다.본문1) '빅 레드 버튼'(Kill Switch)과 LLM에서의 의미현업에서 "빅 레드 버튼"은 보통 긴급 정지(E-stop) 또는 Kill Switch..

TL;DR2025년 11월 출시된 구글 Gemini 3는 나노 바나나 프로 엔진을 통해 텍스트 렌더링 오류를 기존 56%에서 8%까지 대폭 낮췄다.실시간 그라운딩 기능으로 주식 가격, 날씨, 검색 데이터 등 최신 정보를 즉시 반영한다.4K 해상도 및 다양한 측면 비율을 지원하며, 커뮤니티 테스트에서 80% 이상의 선호도 승률을 기록했다.AI 이미지 생성 분야에서 새로운 표준을 제시하고 있다.본문Gemini 3 출시 배경 및 주요 특징2025년 11월, 구글은 AI 모델의 진화를 재차 이끌 Gemini 3를 공식 출시했다.이번 버전은 전작 Gemini 2.5 대비 추론 능력, 다중 모달 이해력이 대폭 향상된 점이 평가받고 있다.출시와 동시에 구글 검색, 코드 생성, 영상 도구 등 주요 서비스에 통합되었으며..

설명: 쿠버네티스 인그레스(Ingress)의 개념, 작동 방식, 그리고 NGINX 인그레스 컨트롤러를 사용한 실용적인 예제를 통해 외부 트래픽을 클러스터 내부 서비스로 라우팅하는 방법을 심층적으로 알아봅니다. 실무자를 위한 핵심 가이드입니다. TL;DR: 쿠버네티스 인그레스(Ingress)는 클러스터 외부의 HTTP 및 HTTPS 트래픽을 클러스터 내부 서비스(Service)로 연결하는 규칙의 집합을 정의하는 API 객체입니다. 인그레스는 L7 로드 밸런서 역할을 수행하며, URL 경로 및 호스트 이름 기반 라우팅, SSL/TLS 종료, 가상 호스팅 등의 고급 기능을 제공합니다. 인그레스 리소스가 실제로 동작하려면 NGINX, Istio, Traefik과 같은 인그레스 컨트롤러가 반드시 필요합니다. 이는..

설명 (Description): 쿠버네티스(Kubernetes)에서 데이터 영속성을 보장하는 볼륨(Volume)의 핵심 개념을 알아봅니다. PV, PVC, StorageClass의 관계와 동작 방식을 명확한 YAML 예제와 함께 실무자 수준에서 상세히 설명하여 안정적인 애플리케이션 운영을 돕습니다.TL;DR: 쿠버네티스 볼륨(Volume)은 컨테이너의 비영속적인 파일 시스템 문제를 해결하기 위해 파드(Pod)에 영구적인 저장 공간을 제공하는 핵심 기능입니다. 파드가 재시작되어도 데이터가 보존되도록 합니다. 스토리지 관리는 주로 PersistentVolume(PV), PersistentVolumeClaim(PVC), StorageClass 세 가지 오브젝트를 통해 추상화됩니다. 관리자는 PV로 실제 저장소..

설명 (Description): 쿠버네티스(Kubernetes) 노드포트(NodePort) 서비스의 개념과 핵심 동작 원리를 알아봅니다. ClusterIP, LoadBalancer와의 차이점을 비교하고, 명확한 YAML 예제를 통해 실무 사용법과 주의사항까지 실무자 수준에서 상세히 설명합니다. TL;DR: 쿠버네티스 노드포트(NodePort)는 클러스터 외부에서 내부 애플리케이션에 접근할 수 있도록 각 노드(Node)의 특정 포트를 개방하는 서비스 타입입니다. 모든 노드는 동일한 포트 번호(기본 범위: 30000-32767)를 사용하며, 사용자는 : 주소로 서비스에 접근할 수 있습니다. 노드포트는 주로 개발, 테스트, 데모 환경에서 서비스를 외부에 빠르고 간단하게 노출시킬 목적으로 사용됩니다. 프로덕션 ..

설명 (Description): 쿠버네티스 스토리지 관리의 핵심, 동적 프로비저닝에 대해 알아봅니다. 정적 프로비저닝과의 차이점, StorageClass, PVC, PV의 관계와 실제 동작 방식을 초보자도 이해하기 쉬운 예제 코드로 설명하여 스토리지 자동화의 개념을 명확히 이해하도록 돕습니다.TL;DR쿠버네티스 동적 프로비저닝(Dynamic Provisioning)은 사용자가 스토리지(저장 공간)를 요청할 때마다 관리자의 개입 없이 자동으로 스토리지를 생성하고 연결해주는 기능입니다. 개발자가 필요한 스토리지의 종류와 크기를 PersistentVolumeClaim(PVC)으로 요청하면, 미리 정의된 StorageClass 템플릿에 따라 실제 스토리지와 이를 대변하는 PersistentVolume(PV)이 ..

설명 (Description): 쿠버네티스(Kubernetes) 레이블의 핵심 개념, 사용법, 셀렉터 연동 방식을 알아봅니다. 실무자를 위한 레이블 베스트 프랙티스와 어노테이션(Annotation)과의 명확한 차이점, 그리고 실제 YAML 예시 코드를 통해 쿠버네티스 리소스 관리 효율을 극대화하는 방법을 확인하세요.TL;DR쿠버네티스 레이블(Kubernetes Labels)은 파드(Pod), 디플로이먼트(Deployment) 등 쿠버네티스 객체(Object)에 첨부하는 키-값(Key-Value) 쌍의 메타데이터입니다. 이 레이블은 객체를 식별하고, 관련 있는 리소스 그룹을 필터링하거나 선택(Select)하는 데 사용됩니다. 예를 들어, environment: production이나 app: fronten..