김성수 · Sungsu Kim

삼성전자 DS부문 AI Infrastructure Engineer

폐쇄망(air-gapped) 환경에서 사내 LLM 플랫폼·GPU 인프라·RAG를 설계·운영하는 AI 인프라 엔지니어입니다. LinkedIn에 AI·인프라 이야기를 쓰며 팔로워 5,000+를 모았고, 이곳 블로그에도 글을 씁니다. 영어 학원을 직접 운영하고, SaaS 100개를 결제해보며 격주 뉴스레터로 솔직하게 리뷰합니다.

경력

AI Infrastructure Engineer

2025.02 – 현재

삼성전자 DS부문 · S.LSI

  • 완전 폐쇄망 반도체 환경에서 사내 LLM 플랫폼용 프로덕션 GPU 인프라(96 GPU: 8×H200 + 4×H100) 설계. vLLM + LMCache를 Kubernetes에 배포, Keycloak SSO·Prometheus/Grafana 연동 → 9,000+ 엔지니어, 일 30만 쿼리·6,000 MAU. (DS Vision Award, 팀)
  • LiteLLM 프록시로 Anthropic 호환 엔드포인트를 구성해 망분리 환경에서 Claude Code 사용 가능하게 함. 6주 만에 3,000명 확장, $7.5M 투자 C-level 승인 견인. (President's Award, 개인)
  • Dify 기반 프로덕션 RAG 에이전트 구축 — Confluence 야간 동기화로 기밀문서 1만+ 페이지를 Milvus(BGE 임베딩)에 색인. 300개 벤치마크 90% 정확도.

Infra Task Force

2024.02 – 2025.01

삼성전자 DS부문 · S.LSI

  • 유럽 자동차 OEM↔한국 데이터 전송 병목(10GB 20시간) 진단. 네트워크 경로 프로파일링 대시보드(Streamlit + FastAPI/pandas) 구축, UK-Israel 스위치 버퍼 오버플로우 발견 → 전송시간 20배 단축(20h→1h).
  • $750M EDA 라이선스 포트폴리오(6,000 엔지니어/200 프로젝트) bottom-up 비용 귀속 시스템 설계(Python·pandas·MongoDB). 임원 정기 지표 채택. (DS Vision Award, 팀)

DevOps Engineer

2023.01 – 2024.01

삼성전자 DS부문 · AI Center

  • 5개 사이트(한국·UK·이스라엘·US-Austin·인도) Perforce 글로벌 복제 토폴로지 배포 → 9,000+ 엔지니어 칩 설계 데이터 지연 6배 개선(1h→10min).
  • 디스크 장애로 라이브·백업 동시 손실 후, 수십억 달러 설계 IP용 5계층 백업 아키텍처 설계.

MES Engineer

2020.02 – 2022.12

삼성전자 · 삼성디스플레이 MES팀

  • 실시간 3-시그마 이상치 탐지(Vue.js→Java→Oracle PL/SQL) 구현, 인덱스 최적화로 응답속도 6배 개선(60s→10s) — 수천만 달러 웨이퍼 폐기 예방.

강연 · 커뮤니티

  • Claude Bloom (2026.06) · 연세대 MBA 초청 강연 — 엔터프라이즈 AI 도입 & LLMOps
  • JobKorea VibeThon (2026.07, 예정) · 초청 심사위원 — AI/바이브 코딩 해커톤
  • vLLM Korea Meetup (2026) · 200명(네이버·카카오·현대) — 사내 LLM 서빙 스케일링
  • Arize AI & Dify Korea Meetup @ AWS Korea (2026) · 폐쇄망 Claude Code·RAG 사례
  • LinkedIn 콘텐츠 크리에이터 · 팔로워 5,000+, 최고 게시글 9만 뷰

창업 경험

영어 학원 직접 운영

2024 – 현재

엔지니어이면서 직접 교육 비즈니스(영어 학원)를 창업해 운영했습니다. 고객을 모으고·마케팅하고·운영을 최적화하는 전 과정을 책임지며 0에서 정원(40명)까지 키웠어요. 이 경험에서 '오프라인 사업자의 고객 획득'이라는 문제를 깊이 이해했고, 지금은 그걸 데이터·AI로 자동화하는 걸 만들고 있습니다.

학력 · 수상

  • 삼성 DS President's Award (DS Vision Award) — 3회 수상: 개인 2026.04(폐쇄망 Claude Code), 팀 2025.04(GPU LLM 인프라), 팀 2024.08($750M EDA 비용 시스템)
  • B.S. 소프트웨어공학, 한국항공대학교 (2020.02)

스킬

LLM & AI

vLLM, LMCache, LiteLLM, Ollama, Dify, RAG, BGE Embeddings, MCP

Infra

Kubernetes, Docker, GPU 클러스터(H200/H100/A100), Perforce, Linux, Networking

DevOps & Data

CI/CD, Prometheus, Grafana, Keycloak(SSO), Python, FastAPI, Pandas, Java, PL/SQL, Oracle, MongoDB, Milvus

✍ 블로그

전체 보기 →

🧾 리뷰한 SaaS

전체 보기 →