*MLOps Insight를 혹시 포워딩 받으셨다면 여기에서 구독하실 수 있습니다.(지난호 보기도 가능!)

Superb AI R&D팀에 있는 화이트보드 우상단 구석에는 귀여운 버스🚌가 그려져 있습니다.
늘 잊지 말자는 건데요. 버스지수를.
최근 5월 발행되어 실무자 사이에서 회자되는 '구글 엔지니어는 이렇게 일한다' 책의 2번째 챕터 '문화'에서 그 버스지수를 설명하고 있습니다. 

버스지수(bus factor)란 팀원 중 한 명이 버스에 치여 일을 할 수 없게 될 때 프로젝트가 망하게 될 위험을를 나타내는 지수입니다. 어떤 코드의 원리를 이해하는 사람이 나 뿐이라면 내가 해고될 가능성은 극히 낮습니다. 하지만 내가 버스에 치인다면..? 프로젝트는 아마 망..할 것입니다. 생각만해도 끔찍하군요.😱

한 사람만 갖고 있는 지식을 동료 한 명과 공유한다면 버스지수는 두 배가 됩니다. 꼭 버스에 치이는 극한 상황을 생각할 필요는 없습니다. 누군가가 결혼하거나, 팀을 옮기거나, 퇴사하거나 병가를 내는 상황을 떠올려볼 수 있죠. 제대로 된 문서를 갖춰 둔다면 프로젝트의 미래를 보장하고 버스 지수를 높이는 데 도움이 됩니다. 팀의 버스지수에 대해 생각해보신 적이 있나요? 팀의 규모와 상관없이 필요한 지식과 노하우가 얼마나 공유되고 분산되어 있는지를 돌아보는 일은 너무나 중요합니다. 
어느덧 MLOps Insight 12호 발행 1주년 ❣️🎊늘 함께해주셔서 감사합니다.

한 달에 한 번, Superb AI는 MLOps Insight를 통해 Global MLOps, Data-centric AI, DataOps 트렌드와 유익한 소식을 보내드리고 있습니다. MLOps Insight는 PC버전에 최적화 되어 있습니다. 

Spotlight✨

본 글은Large Image Datasets Today Are a Mess 를 번역 및 편집한 것으로 자세한 내용은 원글을 참고해주세요.

데이터 관리 플랫폼의 시대 

컴퓨터 비전은 인공지능 및 딥러닝의 발전과 함께 다양한 산업에서 활용되기 시작했고 이제 전세계적으로 링크드인 프로필에 컴퓨터 비전 기술을 가지고 있다고 써놓은 약 250,000명의 사람들이 있습니다. 

하지만, 여전히 컴퓨터 비전 데이터의관리 시스템은 스토리지, 품질(이상 감지, 중복 제거), 이미지 서치, 분석 및 시각화 등과 같은 모든 측면에서 매우 부족한 실정입니다. 이는 컴퓨터 비전 데이터를 다루는 기업과 연구 조직이 데이터의 가치를 최대로 활용하기 어려운 환경에 놓여있다는 의미이기도 합니다. 😔

Amiralush의 팀은 컴퓨터 비전 데이터를 다루는 실무자가 겪는 어려움을 이해하기 위해 120개가 넘는 회사의 리더들과 만나봤고 다음과 같은 배움을 얻었습니다. 

➡️ 만났던 회사 중 약 90%의 회사가 이미지 데이터를 다루고 있었는데, 심지어 로우 데이터가 비디오 포맷이라 해도 대규모 비디오 데이터셋을 다루는 어려움 때문에 이미지로 작업을 진행함.

➡️ 약 60%의 회사가 클라우드 환경(대부분은 AWS)에서 작업을 하고 있었는데 거의 모든 팀은 이미지를 다루는 데 자체적으로 제작한 도구를 쓰고 있었음. 비전 데이터의 활용 및 관리를 돕기에 충분한 시스템 도구가 없다는 사실에는 모두가 동의.

Amiralush의 팀이 바깥에서 얻은 배움은 데이터 툴과 관련한 어려움이 컴퓨터 비전 분야의 병목이라는 내부의 경험과 일치했습니다. 아래 그래프에서 컴퓨터 비전 프로젝트를 진행하는 동안 팀이 겪는 가장 흔한 문제가 무엇인지 파악해 볼 수 있습니다. 🔎

string, ints, floats 혹은 lists로 표현되는 정형데이터와 달리 비전 데이터는 더욱 복잡합니다. 로우 이미지 그 자체 뿐 아니라, 그 안에 담긴 메타 데이터들을 수반하죠. 이미지들을 다시 수학적으로 다루려면 벡터로 표시하는 작업도 있을 수 있습니다. 단일 데이터베이스에 비전 데이터를 저장할 수도 없습니다. 로우 이미지는 flat files로 저장되지만 메타 데이터는 때론 전통적인 방식으로 저장되기도 하고 어노테이션은 JSON의 형태로 저장되는 것이 일반적입니다. 이러한 이유 때문에 제대로 된 툴이 없으면 이런 데이터를 검색해서 찾고 관리하는 일은 매우 귀찮고 번거로운 작업이 되는거죠. 모델이 많아지고 운용 규모가 커지면 그만한 규모와 복잡성을 감당할 수 있는 시스템이 필요해지게 됩니다.

Amiralush의 팀은 이러한 난제를 타파해보기 위한 시도로 C++로 작성한 수천만 개의 이미지를 쉽게 처리할 수 있는 Fastdup이라는 소프트웨어를 만들었는데요. 학습 데이터가 테스트셋에 들어간 경우 등을 포함한 비전 데이터와 관련된 실수를 가시화하여 작업의 효율을 되찾아 줄 수 있습니다. 이제는, 데이터 관리 플랫폼의 필요 여부가 아니라 어떤 플랫폼을 선택할지에 대한 고민을 시작할 때입니다. 🔥

Superb AI가 지향하는 방향도 유사합니다. Superb AI의 DataOps 플랫폼의 Mislabel detection, 임베딩 스토어 내의 2d vector space visualization 등은 비전 데이터를 다루는 팀에게 큰 힘이 되어줄 것입니다. 데이터 관리에 필요성을 느끼고 있는 분들이라면 Superb AI를 꼭 기억해주세요.
벤치마크 데이터셋을 사용한 실험에서 얻은 Fastdup팀의 인사이트를 보시려면 전문을 참고해주세요. 

Superb AI Insight ✨

실패없는 예산 책정을 위한 팁 6가지

데이터 라벨링이나 컴퓨터 비전과 관련한 많은 것들이 대부분 그렇듯이, 효과적인 프로젝트 예산을 세우는 일은 계획 단계에서 얼마나 공을 들이는지에 따라 좌우됩니다. 성공적인 예산 관리를 위한 6가지 팁을 소개해드립니다.

데이터 품질을 언제나 우선에 두는 법

모델을 평가하는 데 사용되는 데이터에 대한 지식은 컴퓨터 비전 시스템의 향상으로 이어집니다. 하지만 데이터 품질은 항상 뒷전으로 되기 마련이죠. 팀이 데이터 품질을 우선으로 둘 수 있으려면 데이터 품질 관리에 대한 실재하는 지식이 필요합니다.
이 글에서 다루는 내용처럼요. 

Data Platform for ML

ML을 위한 이상적인 데이터 관리 시스템인 MLdp를 살펴보세요. Superb AI가 발행한 Picking the Right Training Data Platform도 데이터 플랫폼을 고려하는 분들께 좋은 지침이 될 것입니다.

#MLOpsWorld2022

뜨거웠던 토론토에서의 MLOps World 현장 모음!

CLOVA + MLOps = CLOps 플랫폼

모델 연구에서 서빙까지의 작업의 효율화 그리고 모델 서빙을 담당하는 머신러닝 엔지니어의 작업을 자동화해 줄 CLOps를 소개합니다.

[밋업] Welcome to AI world 

대한민국 AI 스타트업 Riiid, Cochl, Qanda, Dable이 모여 오프라인 행사를 엽니다. 인공지능 생태계를 리드하는 스타트업 기술 공유 및 네트워킹에 관심있는 분들에게 강력 추천! (~15일 마감)

우리가 원하든, 원치 않든 데이터는 흐른다

작년에 쓰던 말이 올해는 금기어가 되어버릴 수 있습니다. 이렇게 데이터는 흐른다는 당연한 이치때문에 현재 만든 인공지능 모델은 “현시점”을 가장 잘 표현한 스냅샷에 불과합니다. "지금처럼만 잘 작동해라”는 안일한 생각을 가진 엔지니어에게 전하고 싶은 이야기입니다.

How to ML paper

ML논문 쓰는 법에 대한 체계적인 꿀 자료입니다.

Adapting ML Research to Make AI For Games Fun

구글의 리서치팀이 진행한 게임 개발자가 자신의 게임의 버그를 AI를 활용해 찾아낼 수 있는 오픈소스 프로젝트를 소개합니다. 

Lessons From Deploying Deep Learning To Production

Data-centric ML tools을 만드는 Aquarium팀이 프로덕션 레벨의 모델을 다루면서 얻은 교훈입니다.

MLaaS 시장동향

클라우드 환경에서 ML 시스템을 개발하는 데 필요한 프레임워크 및 개발 환경을 제공하는 MLaaS 시장이 점점 커지고 있습니다. 구글, 아마존, Microsoft, 네이버 등의 클라우드 기업 등도 서비스를 하고 있죠. 그 기초를 이해하기 좋은 자료입니다.

이번 달 MLOps Insight 어떠셨나요? 👍👎
솔직한 피드백은 MLOps Insight를 만들어가는 데 큰 힘이 된답니다!
이번호 소감 남기러가기

아쉽지만 Olivia가 드리는 MLOps Insight는 이번 12호가 마지막입니다.
지난 1년동안 제가 쓰는 뉴스레터를 사랑해주셔서 감사합니다. 💌
뉴페이스의 MLOps Insight로 찾아뵐게요! 😊

Author: Olivia

Community Growth Manager at Superb AI

Let's connect 🤗