코드를 하나 짜보자! GPU 클러스터에서 모든 정보를 한 번에 쿼리하고 모니터할 수 있는 도구 이걸 하려고 Prometheus Grafana는 너무 부담이 큼 • AI증강 프로그래밍 rust 를 배워볼 겸 Google AI Studio ChatGPT 로 프로젝트 시작 한 땀 한 땀 창에 붙여 가며 프로그래밍 사흘동안 프로토타입 완성: 그러나 휴가 후 다시 창고로… Cursor, Cline 등의 유행 명확한 한계와 떨어지는 관심 난 러스트를 거의 처음 한다. C 프로그래밍 및 파이썬 3에는 익숙하다. 비동기 기술 및 패키징 기술, UI 기술에 대해서는 jQuery와 웹컴포넌트 에 대한 풍부한 경험이 있다. 지금부터 프로그래 밍을 하다가 오류가 생기면 디버그를 부탁할 것 이다. 오류 및 수정 제안 코드를 설명할때 나의 백 그라운드를 고려하여, 이해할 수 있는 설명 및 비 유를 충분히 활용해서 설명하라. 비슷한 레토릭 및 일대일 대응이 되는 기능이 있다면 그 내용을 원용하여 설명하라. 오류가 발생할 경우, 원래 내 가 알고 있는 지식과 러스트 언어의 특징을 비교 하여, 러스트 언어의 특징에 의한 휴먼 에러인 경 우 해당 부분을 상세하게 설명하라. 당시 프롬프트
베어메탈 워크로드 실행 솔루션 도저히 Orin Nano 에선 성능 하락폭이 커서 제대로 된 도커를 운영할 수가 없다! 애플 실리콘에서는 MPS 가속을 활용하고 싶다! • AI 증강 IDE 기반의 프로젝트 개발 GitHub Copilot 코딩 IDE 기반 개발 / co authoring에 가까움 문젯점 생각보다 도움이 안 됨 컨텍스트에 맞지 않는 제안을 자꾸 함 • 창GO 이후 2025년 8월 상하이에서 Google I/O Connect 행사 때 마무리
챗봇 서비스의 약점 유저수는 많은데 돈이 잘 안됨 원가 절감이 어려운 사용 패턴이 늘어남 캐시에 의존하는 비용 절감이 가장 위력을 발휘하기 좋은 분야 배치 걸기 좋게 실시간성이 덜 요구되며 토큰 소모가 엄청나서 원가만 잘 절감하면 유저를 못 나가게 하기도 좋고 월 20달러 대신 월 1000달러를 낼 수 있는 시장 • 코딩 어시스턴트에서 코딩 에이전트로 엔드 투 엔드로 업무를 처리할 수 있게 됨 컨텍스트 관리, 툴 콜링 기능 강화 및 Skill, command 등의 커스텀 하네스 방법 등장
이유 편의성? 심리적 이유? • Claude Code 2025. 2 기반 모델의 압도적인 성능을 바탕으로 급격한 성장 토큰 생성량 20배 증가 • OpenAI Codex 2025. 5 GPT 계열 모델 기반 오토스티어링 • Gemini CLI 2025. 7 저렴한 API 가격을 무기로 빠르게 성장 • OpenAI 의 Windsurf 인수와 실패, Claude Code 개발진의 이직 및 2주만의 환향 시간을 사는 인수들
해 보는 것이 믿는 것 계속 올핸즈를 통해 이야기하던 내용들의 실질적 동기화 대표 머릿속과 당신의 머릿속이 같아야 합니다 • 변화의 방향 갈수록 코딩이 줄어듦: Decomplex 의 경우 사람 코딩을 두 줄 했음 • 그럼 난 무엇을 할 수 하는가? 질문이 잘못됨 난 무엇을 해야 하는가 • Docklink, ClusterLoom, Decomplex… 두 달 간격으로 세 코딩 프로젝트 진행 Docker replacement 프로젝트, 베어 메탈 클러스터 매니지먼트 도구, 세일즈 파이프라인/CRM 도구 세 개발의 경험이 모두 달랐음
미팅 : 미리 가이드 안내하고 기획서 작성하는 법에 대한 내용 이틀동안 각 10분 해커톤: 오전 10시에 해커톤을 시작해서 점심시간 전에 끝 오프닝 15분, 준비 15분, 코딩 시간 1시간, 데모 및 시상식 30분 / 개인별 해커톤 한 시간동안 Claude Code에게 지시하는 것으로 코딩 • 인기상 우승: 점심메뉴 추천 자동화 및 게임화와 사내 리뷰시스템을 구글 리뷰와 결합한 AI 플랫폼 컨설팅 팀 멤버 2등: 회사 개요 및 문서 기반으로 현재 필요한 직책 추천 및 잡 디스크립션 자동 생성 서비스를 만든 CFO 3등: 필드부터 개발까지 이어지는 이슈 트래커 만든 연구 팀 멤버 번외: Chief Revenue Officer: CRM 드래프트를 통째로 하나 작성 • 이후 모든 구성원이 AI 기반 증강 코딩 도입 시작 숙원사업 자동화
2025년 6 7월에 마무리 • 모든 AI 가속기를 위한 통합 모니터링 솔루션 벤더별 유틸리티를 대체하는 단일 도구 NVIDIA GPU / NVIDIA Jetson Google TPU v4 Tenstorrent, Rebellions, FuriosaAI NPU Apple Silicon GPU/ANE • 핵심 설계 원칙 범용 호환성 운영의 단순성 성능 안정성 단일 바이너리 배포
구성원: 까만 터미널은 무섭다 • 대응 파워포인트, 엑셀, 워드, hwp • 대응 파워포인트: marp 로 이전 Claude cowork 가 2026년 초에 나오면서 해결 모든 구성원이 Claude 사용하는 시스템 제공 Gemini AI:GO 기반의 워크플로 도입 뒤에서 설명 GPT 5를 엑셀, 워드: Claude Cowork 등이 해결 claude for Excel HWP: hwp 포맷을 역공학으로 분석해서, 역으로 만들어 낼 수 있는 체계 만듦
아키텍처의 표준 플랫폼 차세대 경쟁력 프로젝트의 일환 재해 대책용 스마트 라우터로 2024년 11월 시작, Full OpenRouter like 서비스 아키텍처로 진화 2025년 3월 GTC 발표 / 5월 첫 버전 테스트 https://github.com/lablup/backend.ai continuum 컨테이너 13개: 너무 크다 자체 인증 시스템 OpenTelemetry, minio, Prometheus, Grafana, PostgreSQL, Redis, ClickHouse… 종현님 왈: 그걸 누가 갖다가 고객사에 깔아요? • Continuum router: 라우팅 기능만 살려서 리부트 라우터 기능만 따로 떼어 Rust 로 재작성 2025년 8월 라우팅 어그리게이션으로 시작해서 현재는 종합 트랜스파일러까지 진화함 2025년 12월 정식 릴리즈
소프트웨어 엔지니어의 역할: 프로그램 자체를 만드는 것이 아님 프로그램을 만드는 시스템을 기획하고 만들기 머신러닝 모델이 못 짜는 코드가 있으면, 그건 사용자의 한계라고 봐도 무방한 싯점이 됨 • 프로그램의 정의의 변화 고전적 정의: 코드 8: 하네스 시스템 CI/CD 2 향후의 정의: 모델 8: 하네스 1: 시스템 1 • 우리 회사 는 어떻게 해야 할까? 가치의 이동에 따른 무게 중심의 변화에 대한 고민
• • 최근 한 달간 가장 많이 사용한 상위 10개의 명령어 패턴을 조사해주세요. 조사한 패턴 중 커맨드로 만들어 재사용 가능한 패턴들을 추출해주세요 해당 커맨드들을 추출해주세요 • 이 명령도 커맨드화 하고 주기적으로 실행 gemini p, claude p • 개발 단위 설계 issue manager 이슈 생성, 리뷰, 갱신 등 impl, chain impl, epic impl 이슈 단위, 다수 이슈 단위, 에픽 및 하위 이슈 단위 처리 pr reviewer, pr security checker, pr finalzer PR 처리 등 모든 판단 및 결과, 인간이 배워야 할 지식들을 레포트로 제시 레포트를 읽고 공부하는 일이 사람의 핵심
위해 클라우드에 데이터를 업로드할 필요 없음. • 하드웨어 최적화 macOS Metal/MLX , Windows/Linux NVIDIA CUDA, AMD ROCm 및 표준 CPU에서 높은 성능 발휘 • 에이전트 기능 웹 검색, 파일 작업 등 도구를 사용하여 스스로 작업을 수행하는 에이전트 기능 제공 • 쉬운 관리 앱 내에서 Hugging Face의 모델을 직접 검색하고 다운로드 • 표준 API 제공 OpenAI 호환 API를 제공하여, 즐겨 사용하는 AI 도구들의 백엔드로 Backend.AI GO를 활용 • 기타 등등 미소녀 미소년 아바타도 만들고 싶고요 멀티 에이전트 확장한 후 에이전트 워크플로우 공유 기능도 넣고 싶고…
for Continuum router Continuum router 의 방대한 사용 방법 및 매뉴얼 https://docs.continuum.lablup.ai/ko/ 이걸 CES 2026에서 어떻게 발표하지? 컨트롤용 WebUI 를 만들자 DGX Spark 에서 모델 돌리는걸 라우터로 묶어 연동해서 보여주는 시나리오 그런데 너무 모델 돌리는 설정이 어렵다. …그냥 UI에 넣을까? • 크리스마스 이브 Anthropic: 연말 포인트 2배 이벤트! 우리 명절은 2월이지롱 • 기록 Continuum router: 67회 릴리즈, 코드 43만줄 AI:GO: 이슈 1299건, PR 1580회, 코드 150만줄
마무리된 이슈들 중 수동 점검이 필요한 것들 수동 테스트 추가 검수가 필요한 경우 codex 에 보완 파이프라인 걸기 릴리즈 일정이 있다면 릴리즈 절차 • 점심 식사 후 릴리즈 여부 확인 다음 목표 정하기: 미팅, 이메일, 문서 작업 등 • 퇴근 두 시간 전 GitHub 이슈 등록 30 40개 내외 등록된 이슈 검토 지시 퇴근 직전: Gemini CLI 및 Claude code 에 등록 이슈 처리 트리거
안 끝남 일을 빨리 시켜도 느리게 시켜도 문제가 되는 상황 5시간 리밋에 걸리지 않도록 일을 주고 주간 리밋에 걸리지 않도록 주당 배분을 하고 Gemini, Claude, Codex 누구한테 뭘 줄지 고민도 하고 천천히 천천히… • 예: claude code epic impl 은 1시간 안에 5시간 윈도우 토큰을 다 소모함 chain impl 로 적절하게 로드를 걸어야…
어떻게 토큰을 덜 쓸 것인가? • 도구 독립적 메모리 시스템 모델 성능과 가격 문제 X 특정 일을 잘 하는 모델 사용을 위한 전역 메모리 시스템 속도가 핵심: 모두가 AI 로 작업하고 있다면, 어떻게 먼저 끝내는가가 포인트가 됨 Gyeol 프로젝트 https://github.com/inureyes/gyeol 토크나이저에 맞춘 프롬프트 압축 모델마다 토크나이저가 다름 가벼운 모델 사용 당신의 일엔 flash 면 충분하다 모델이 이미 알고 있는 내용을 프롬프트에서 최대한 제외할 수 있는 방향 찾기 코딩의 목적 X, 컨텍스트 트래킹의 목적 더 깊은 문제 어떻게 하면 모델이 토큰을 알아서 덜 쓰게 만들 것인가? 토큰이 모델에게 대체 무엇인가?
어떻게 이동하고 있는지 • 2025년 2월 Claude code • 가치의 비중이 어떻게 이동하고 있는지 • 2025년 4월 Cloud Next • 2025년 6월 래블업 해커톤 • 무엇이 필요하고 무엇이 중요해질지 • 2026년 1월 AI:GO • 궁극적으로 여기에 뭐가 남을지 • AI:GO 기록 Continuum router: 16회 릴리즈, 코드 5만줄 AI:GO: 이슈 1299건, PR 1580회, 코드 150만줄
• 4월 중순 이야기 모델 개발을 모델이 하는 시대 inode 가 고갈되어 mac studio 가 다운됨 그렇다면 모델을 개발하는 모델에게 필요한 것은 무엇일까? PC를 구성하는 SW/HW 요소의 도전 Backend.AI as an agentic system ready harness • 무게 중심의 이동 GPU, CPU, RAM… 파일시스템과 I/O의 중요성 모델은 단명해도 권한은 영원하다 • 클라우드 넥스트의 교훈 중요한 것은 모델도 아니고 에이전틱 시스템도 아님 RBAC 과 하드웨어, 나머지는 다 바뀜
inureyes
hiro_ogi
upura
takaking22
sansan33
puku0x
komei_mt
nwiizo
recruitengineers
matayuuu
kuroneko13
sms_tech
palkan
jonyablonski
morganepeng
thoeni
ammeep
marketingsoph
wjessup
reverentgeek
trishagee
bluesmoon
aleyda
