김성수 · Sungsu Kim
삼성전자 DS부문 AI Infrastructure Engineer
폐쇄망(air-gapped) 환경에서 사내 LLM 플랫폼·GPU 인프라·RAG를 설계·운영하는 AI 인프라 엔지니어입니다. LinkedIn에 AI·인프라 이야기를 쓰며 팔로워 5,000+를 모았고, 이곳 블로그에도 글을 씁니다. 영어 학원을 직접 운영하고, SaaS 100개를 결제해보며 격주 뉴스레터로 솔직하게 리뷰합니다.
경력
AI Infrastructure Engineer
2025.02 – 현재삼성전자 DS부문 · S.LSI
- 완전 폐쇄망 반도체 환경에서 사내 LLM 플랫폼용 프로덕션 GPU 인프라(96 GPU: 8×H200 + 4×H100) 설계. vLLM + LMCache를 Kubernetes에 배포, Keycloak SSO·Prometheus/Grafana 연동 → 9,000+ 엔지니어, 일 30만 쿼리·6,000 MAU. (DS Vision Award, 팀)
- LiteLLM 프록시로 Anthropic 호환 엔드포인트를 구성해 망분리 환경에서 Claude Code 사용 가능하게 함. 6주 만에 3,000명 확장, $7.5M 투자 C-level 승인 견인. (President's Award, 개인)
- Dify 기반 프로덕션 RAG 에이전트 구축 — Confluence 야간 동기화로 기밀문서 1만+ 페이지를 Milvus(BGE 임베딩)에 색인. 300개 벤치마크 90% 정확도.
Infra Task Force
2024.02 – 2025.01삼성전자 DS부문 · S.LSI
- 유럽 자동차 OEM↔한국 데이터 전송 병목(10GB 20시간) 진단. 네트워크 경로 프로파일링 대시보드(Streamlit + FastAPI/pandas) 구축, UK-Israel 스위치 버퍼 오버플로우 발견 → 전송시간 20배 단축(20h→1h).
- $750M EDA 라이선스 포트폴리오(6,000 엔지니어/200 프로젝트) bottom-up 비용 귀속 시스템 설계(Python·pandas·MongoDB). 임원 정기 지표 채택. (DS Vision Award, 팀)
DevOps Engineer
2023.01 – 2024.01삼성전자 DS부문 · AI Center
- 5개 사이트(한국·UK·이스라엘·US-Austin·인도) Perforce 글로벌 복제 토폴로지 배포 → 9,000+ 엔지니어 칩 설계 데이터 지연 6배 개선(1h→10min).
- 디스크 장애로 라이브·백업 동시 손실 후, 수십억 달러 설계 IP용 5계층 백업 아키텍처 설계.
MES Engineer
2020.02 – 2022.12삼성전자 · 삼성디스플레이 MES팀
- 실시간 3-시그마 이상치 탐지(Vue.js→Java→Oracle PL/SQL) 구현, 인덱스 최적화로 응답속도 6배 개선(60s→10s) — 수천만 달러 웨이퍼 폐기 예방.
강연 · 커뮤니티
- Claude Bloom (2026.06) · 연세대 MBA 초청 강연 — 엔터프라이즈 AI 도입 & LLMOps
- JobKorea VibeThon (2026.07, 예정) · 초청 심사위원 — AI/바이브 코딩 해커톤
- vLLM Korea Meetup (2026) · 200명(네이버·카카오·현대) — 사내 LLM 서빙 스케일링
- Arize AI & Dify Korea Meetup @ AWS Korea (2026) · 폐쇄망 Claude Code·RAG 사례
- LinkedIn 콘텐츠 크리에이터 · 팔로워 5,000+, 최고 게시글 9만 뷰
창업 경험
영어 학원 직접 운영
2024 – 현재엔지니어이면서 직접 교육 비즈니스(영어 학원)를 창업해 운영했습니다. 고객을 모으고·마케팅하고·운영을 최적화하는 전 과정을 책임지며 0에서 정원(40명)까지 키웠어요. 이 경험에서 '오프라인 사업자의 고객 획득'이라는 문제를 깊이 이해했고, 지금은 그걸 데이터·AI로 자동화하는 걸 만들고 있습니다.
학력 · 수상
- 삼성 DS President's Award (DS Vision Award) — 3회 수상: 개인 2026.04(폐쇄망 Claude Code), 팀 2025.04(GPU LLM 인프라), 팀 2024.08($750M EDA 비용 시스템)
- B.S. 소프트웨어공학, 한국항공대학교 (2020.02)
스킬
LLM & AI
vLLM, LMCache, LiteLLM, Ollama, Dify, RAG, BGE Embeddings, MCP
Infra
Kubernetes, Docker, GPU 클러스터(H200/H100/A100), Perforce, Linux, Networking
DevOps & Data
CI/CD, Prometheus, Grafana, Keycloak(SSO), Python, FastAPI, Pandas, Java, PL/SQL, Oracle, MongoDB, Milvus
✍ 블로그
전체 보기 →🧾 리뷰한 SaaS
전체 보기 →Claude API 레이턴시 벤치마크
6호같은 Claude라도 어디로 호출하느냐에 따라 속도가 다르다. 한국에서 Anthropic 직통 vs AWS Bedrock(미국·도쿄)을 매시간 측정 — Haiku·Sonnet·Opus의 TTFT와 생성속도를 시계열로 비교.
물리 게임 실험실
5호Claude 4종(Fable·Opus·Sonnet·Haiku)에게 같은 프롬프트로 Matter.js 새총 물리 게임을 만들게 시켰다. 조준선·사운드·파티클까지 — 누가 가장 완성도 높은 물리 게임을 만들까?
AI 모델 실험실
4호같은 프롬프트 하나로 Claude·Qwen·Gemma·Llama·Mistral 등 7개 AI 모델에게 테트리스·2048·스트리트 파이터·길건너 친구들을 만들게 시키고, 직접 다 돌려본 결과를 비교했습니다. 누가 진짜 '작동하는' 게임을 만들까?
PRISM-INSIGHT
3호8개월째 실제 돈으로 매매하는 13개 멀티에이전트 주식 AI. 코드·매매내역·월 운영비까지 전부 공개한 오픈소스.
n8n
2호노드 기반 워크플로 자동화. 셀프호스팅 가능한 오픈소스 자동화 툴.
TradingAgents
1호멀티 에이전트 LLM 금융 트레이딩 프레임워크.