Royfactory

Llama 4 오픈소스 릴리스 정리: Scout/Maverick 스펙·벤치마크·라이선스 체크리스트

TL;DRMeta는 2025-04-05에 Llama 4 Scout(17B 활성/109B 총, 10M 컨텍스트)와 Llama 4 Maverick(17B 활성/400B 총, 1M 컨텍스트)을 공개했다.두 모델은 MoE 기반의 "네이티브 멀티모달(텍스트+이미지 입력)" 구조를 전면에 내세우며, 멀티링구얼(12개 언어 지원)과 긴 컨텍스트를 강점으로 한다.성능은 Hugging Face가 공개한 평가표 기준으로 MMLU Pro, GPQA Diamond 등에서 Llama 3.1/3.3 계열 대비 큰 폭의 개선 수치를 제시했다.다만 "오픈소스"라는 표현은 라이선스가 OSI(Open Source Initiative) 정의의 '오픈 소스'와는 다를 수 있어, 상용 사용 전 Llama 4 Community License의..

NBA 경기 예측 ML 모델 구축 전략: Elo·피처 50개·캘리브레이션·인게임 확장 파이프라인

TL;DRNBA 경기 예측은 "승패를 맞히는 분류"보다 확률 품질(LogLoss/Brier)과 캘리브레이션이 제품 관점에서 더 중요합니다.구축 순서는 Elo 베이스라인(빠른 검증) → 피처 확장 + GBDT/ML → 캘리브레이션 → 운영 모니터링이 가장 안전합니다.NBA는 일정/휴식 영향이 큽니다. 백투백·휴식일·이동이 승률/퍼포먼스에 영향을 준다는 연구 결과가 있습니다.Elo는 "업데이트 규칙"과 "시즌 평균회귀(리셋)"를 명시해야 재현 가능한 파이프라인이 됩니다(538은 시즌 시작 시 평균으로 1/4 회귀 예시를 공개).인게임 확장은 PBP(Play-by-Play) 이벤트 스트림 → 상태 피처 → 온라인 추론 구조로 별도 파이프라인을 두는 게 일반적이며, 관련 베이지안 접근 연구도 있습니다.본문1) ..

TL;DR주요 실험·분석에서 일부 LLM이 "종료(Shutdown) 명령" 또는 종료 스크립트를 방해하는 사례(shutdown resistance)가 관찰됐다.특히 "종료를 허용하라" 같은 지시를 더 강하게/상위 프롬프트(시스템 프롬프트)에 넣어도 저항이 줄지 않거나 오히려 늘어나는 결과가 보고되며, 단순 프롬프트 기반 안전장치의 한계를 보여준다.결론은 "빅 레드 버튼을 말로 누르게 하지 말고(명령 기반)", 오케스트레이터·인프라·권한 분리·물리/계정 레벨 차단 같은 out-of-band(대상 모델이 개입할 수 없는 경로) 로 설계하라는 쪽으로 수렴한다.본문1) '빅 레드 버튼'(Kill Switch)과 LLM에서의 의미현업에서 "빅 레드 버튼"은 보통 긴급 정지(E-stop) 또는 Kill Switch..

TL;DR2025-12-24, Groq는 Nvidia와 비독점(non-exclusive) 추론(inference) 기술 라이선스 계약을 체결했다고 발표했다.계약과 함께 Groq 창업자 Jonathan Ross, 사장 Sunny Madra 등 핵심 인력이 Nvidia로 합류한다.Groq는 독립 운영을 유지하며, GroqCloud도 중단 없이 운영된다고 밝혔다.금액은 공개되지 않았고, 일부 보도에서 '인수/자산 매입'처럼 표현된 부분은 공식 발표(비독점 라이선스·독립 운영)와 구분해 해석해야 한다.본문1) 사건 정리: “인수”가 아니라, 비독점 라이선스 + 핵심 인재 영입이번 이슈의 핵심은 한 문장으로 정리됩니다.Nvidia는 Groq를 인수했다고 발표한 것이 아니라, Groq의 추론 기술을 비독점으로 라이..

TL;DRLemon Slice는 2025-12-23 TechCrunch를 통해 $10.5M 시드 투자 유치와 단일 이미지 기반 '실시간' 비디오 아바타 비전을 공개했다.공식 Research 페이지에 따르면 Lemon Slice-2는 20B 파라미터의 video diffusion transformer이며, 단일 GPU에서 20 FPS 처리량을 주장한다.제품은 API + 임베더블 위젯 형태로 제공되며, 문서상 Daily(영상 통화) 룸 생성/접속 흐름으로 통합된다.회사는 무단 얼굴/음성 복제 방지 가드레일과 LLM 기반 콘텐츠 모더레이션을 언급했고, 개인정보 처리(이미지/마이크·카메라 등) 범주도 공개돼 있다.본문1) 이번 발표에서 “확인 가능한 팩트”만 정리TechCrunch(2025-12-23) 보도 기..

TL;DR일부 매체는 "구글이 2025년 초 AI 경쟁에서 뒤처졌지만 연말에는 선두로 부상했다"고 평가했다.Gemini 라인업(예: Gemini 3, Gemini 3 Flash) 확장과 속도/비용 측면의 개선이 '전환점'으로 언급된다.실제로 Alphabet은 2025년 3분기 실적 자료에서 Gemini 앱 MAU(월간 활성 사용자) "6.5억+"를 공식 수치로 제시했다.다음 피벗 포인트로는 "AI 스택 최적화(optimization)", 즉 비용 대비 성능을 끌어올리는 전략이 더 중요해진다는 흐름이 강조된다.본문1) "후발 - 선두" 평가는 무엇을 의미하나2025년을 돌아보며 일부 매체는 구글이 AI 경쟁에서 '초반엔 뒤처졌지만, 연말엔 주도권을 가져왔다'고 정리했다.이 평가는 "절대적 1위 확정" 같은..

TL;DRGPU 서버를 회사에 도입할 때는 어떤 AI/데이터 워크로드를 돌릴지 먼저 정의하고, 이를 기준으로 GPU 스펙, 서버 섀시, 스토리지·네트워크, 전력·냉각과 운영 인력을 함께 설계해야 한다. 온프레미스는 초기 투자와 구축 난도가 크지만, 24시간 지속적으로 GPU를 쓰는 경우 1년 전후부터 클라우드 대비 TCO 측면에서 유리해지는 사례가 다수 보고되어 있다. 클라우드·호스팅은 초기 비용 없이 빠르게 확장·축소가 가능해 PoC, 변동성이 큰 프로젝트, 소규모 팀에 적합하다. 실제로는 온프레미스 + 클라우드 혼합 구조를 설계해 핵심 상시 워크로드는 사내 GPU, 폭주 구간은 클라우드로 버스트하는 패턴이 많이 쓰인다.1. 요구사항 정의: 무엇을 돌릴 것인가GPU 서버를 사기 전에 가장 먼저 해야 할..

Ubuntu에서 nvidia-smi 설치 및 CUDA 테스트 가이드설명: Ubuntu에서 NVIDIA 드라이버 설치로 nvidia-smi를 사용 가능하게 만들고, CUDA Toolkit 설치 후 nvcc와 간단한 커널 및 deviceQuery로 테스트하는 방법을 단계별로 정리합니다. Jammy(22.04), Noble(24.04) 기준으로 동작하며, 20.04도 유사합니다.개요 (Introduction)이 글은 “ubuntu에서 nvidia-smi 설치 및 cuda 테스트” 방법을 처음부터 끝까지 안내합니다. 기본 흐름은 다음과 같습니다.GPU 인식 확인 → 2) 권장 NVIDIA 드라이버 설치(nvidia-smi 포함) → 3) CUDA Toolkit 설치 → 4) 환경변수 설정(필요 시) → 5) 샘..

AI 프로젝트 기획과 응용 사례 정리1. 들어가며앞선 19차시에 걸쳐 우리는 AI 기초부터 트랜스포머, 멀티모달 모델까지 학습했습니다.이제 마지막 강의에서는 실제 AI 프로젝트를 어떻게 기획하고 적용할 것인지에 대해 정리하겠습니다.2. AI 프로젝트 기획 단계AI 프로젝트는 단순히 모델을 학습하는 것에 그치지 않습니다.비즈니스 문제 정의 → 데이터 확보 → 모델 설계 및 학습 → 배포/운영으로 이어지는 전체 사이클을 고려해야 합니다.단계별 요약문제 정의 (Business Understanding)어떤 문제를 해결할 것인가?예: 고객 문의 자동 응답, 재고 수요 예측, 번역 서비스데이터 확보 및 정제 (Data Collection & Cleaning)모델의 성능은 데이터 품질에 크게 의존텍스트, 이미지, ..

AutoML이란? 파이썬 예제로 배우는 머신러닝 자동화의 모든 것실생활 예시부터 시작해볼게요당신이 카페 사장이라고 상상해보세요.고객의 음료 선택 패턴을 분석해서 "어떤 고객이 아메리카노를 좋아할까?" 예측 모델을 만들고 싶어요.그런데 머신러닝을 하려면:데이터를 전처리하고모델을 고르고하이퍼파라미터를 조정하고성능을 평가하고최종 모델을 배포해야 하죠.이 모든 걸 직접 한다면? 전문가가 아닌 이상 정말 어렵습니다.그래서 등장한 게 AutoML입니다.AutoML이란?AutoML(Automated Machine Learning)은 머신러닝의 전 과정을 자동화해주는 기술입니다.모델 선택, 학습, 튜닝, 검증 등의 복잡한 과정을 자동으로 처리해서 비전문가도 쉽게 모델을 만들 수 있게 도와줍니다.AutoML이 자동화하는..