Search
moon
sun
🏷️

아이템에 대한 팀원 모두의 전반적인 이해도를 높인다.

칸반
Completed
진행기간
2023/08/15 → 2023/09/02
담당자
상위티켓
선행티켓
후행티켓
4 more properties

1. 퀘스트 『스탠포드

프로젝트의 목표는 사용자의 설거지 습관에 의해 낭비되는 물을 절약하는 것이다.

1-1. 퀘스트 『현장검증』

프로젝트의 목표는 사용자의 설거지 습관에 의해 낭비되는 물을 절약하는 것이며, 사용자의 설거지 패턴을 분석하여 물이 효율적으로 급수될 수 있도록 수도 밸브의 개폐 여부를 결정하고자 한다. 인위적으로(인간 혹은 기계 등) 수도 밸브를 조절해주었을 때 물이 절약 되었는지 확인하기 위해, 1차적으로 설거지를 하는 사용자 옆에서 사람이 직접 수도 밸브를 조절하여 절약 여부를 검증한다.
설거지의 오염도와 양은 최대한 일정 수준으로 유지
설거지가 평소보다 불편했는지 정성적 만족도 조사
이때의 만족도를 기준으로 『기준 모델 제작』 퀘스트의 데이터 레이블링 규약을 잡을 수 있음.
만족도와 수자원 절약의 밸런스를 잘 잡아야 함.

1-2. 퀘스트 『기준 모델 제작』

향상된 모델을 위해 가장 기초적인 베이스라인 모델을 설계한다. 가장 먼저 해결해야할 문제는 ‘밸브를 언제 잠궈야할지’를 정하는 것이다. 설거지 이미지(오픈소스 이미지 혹은 직접 촬영한 이미지)를 사용하여 개폐 여부를 결정 짓는 간단한 분류모델을 만든다. 분류 모델은 0(물 X), 1(물 O)로 구분지을 수 있도록 설정한다.

1-2-1. 퀘스트 『사냥터 자리 고르기』

이미지 데이터를 수집하기 위해서는 카메라를 설치해야 한다. 카메라를 부착하는 위치에 따라 수집되는 데이터의 형태가 크게 달라진다. 또한, 이 프로젝트는 설거지 상황을 촬영해야 하기 때문에 물이 튀는 것으로부터 안전한지를 고려해야 한다. 카메라 설치 후보 위치를 1~3가지 선정하고, 방수처리에 필요한 아이디어를 제시한다.
방수 방법 제안

1-2-2. 퀘스트 『달팽이 껍질 10개 모아오기』

기준 모델 제작을 위해 반드시 가장 먼저 선행되어야 하는 작업은 데이터 수집이다. 이때, 머신러닝으로 문제를 풀기 위해서는 일관된 레이블의 최고 품질 데이터를 수집하는 것이 가장 중요하다. 우리가 손으로 직접 최고 수준의 레이블링을 해 본다. 이 과정은 한방에 끝나지 않는다. 시행착오를 통해 어떤 데이터를 어떤 조건 아래에서 수집할 것인지 기준을 차츰 수립하고 데이터의 일관성을 확보한다.
1-2 하위 단계를 위해 수집해야 하는 데이터가 무엇인가
센서
취득 데이터
지금 해야 하는지 여부
이유
이미지 센서
설거지 동영상
해야 함
자석 센서
수전 핸들 꺾임 정도
하지 않아도 됨
사람이 동영상을 보며 물을 틀어야 할 때와 잠가야 할 때를 직접 태깅할 것이기 때문
이미지 센서: 카메라 등의 요소를 통해 모델에게 학습 시킬 학습 데이터를 수집한다.
자석 센서: 아두이노와 연결되는 자석 센서는 휘어지는 정도에 따라 다른 값을 리턴하는 특징을 가지고 있다. 수전의 실시간 개폐 정보 수집을 위해 필요하다. 하지만 현재 단계에서는 스탠포드 처럼 동영상을 보며 그 순간 수전이 열리거나 닫혀야 함을 레이블링할 것이기 때문에 정보 수집에서 제외되었다.
어떻게 데이터를 수집할 것인가: 우리는 카메라를 이용해 수집한 동영상을 프레임마다 분리한 데이터를 바탕으로 학습을 진행한다. 하지만 싱크대의 환경 등 데이터를 수집할 환경과, 화질, 편리를 고려하여 가장 합리적인 도구로 데이터를 수집해야 한다.
촬영 도구
장점
단점
라즈베리파이 카메라로 촬영
- 우리가 궁극적으로 나중에 사용할 카메라와 동일한 카메라다.
- 방수가 안된다. - 촬영 환경 구성이 요구된다.
스마트폰 카메라로 촬영
- 방수가 된다. - 촬영 환경 구성이 간단하다.
라즈베리파이 카메라: 라즈베리파이 카메라는 최종 절수 싱크대 속 이미지 수집을 위해 들어갈 가능성이 가장 큰 카메라이다. 해상도, 화각, 노출시간, 민감도 등 이미지 특징에 영향을 미치는 요인들이 모델이 학습할 데이터와 실제로 입력받을 데이터가 동일하여 모델의 성능에 기여할 가능성이 있다. 하지만 방수가 되지 않고, 테이핑 등 카메라를 싱크대에 설치하기 위한 별도의 작업이 필요하여 이를 해결하기 위한 방법이 필요하다.
스마트폰 카메라: 해상도, 화각, 노출값 등 이미지 구성에 포함되는 요소들이 스마트폰 카메라는 우리가 실제로 구현한 상태의 카메라와는 다르다는 단점을 가지고 있다. 하지만 데이터를 수집 편의성에 있어서는 방수가 가능하고 거치대를 사용한 쉬운 설치가 된다는 장점을 가지고 있다.
이미지 속 특징을 추출하고 차원을 축소하는 CNN의 특성 상 동일한 순간에서 학습데이터와 테스트 데이터의 특징이 동일해야 높은 성능을 낼 수 있다. 고로 학습 데이터와 실제 데이터의 품질이 동일한 것이 좋다.
처음에는 얼마나 많이 수집할 것인가
데이터
설거지 동영상
싱크대 환경
1개 혹은 2개의 싱크대 (팀원으로부터 확보할 수 있는 싱크대), 만약 두런두런이 된다면 그 환경에 맞춰서 진행
조명 상태
일관된 조명 (동일한 싱크대 환경이라면 동일한 조명을 사용해서 촬영할 것. 예를 들어 석우네 집 주방에서 촬영을 한다면, 불을 다 켜놓고 촬영하기)
설거지 횟수
2 * 인원 (약 4명)
데이터의 수집방법을 결정했다면 이 데이터의 특성을 구체화하는 단계가 필요하다.
먼저 학습에 사용할 데이터의 양을 정해야한다. 인원(4명) 별로 2회의 설거지 동영상을 촬영해야 유의미한 학습 결과를 도출할 수 있을 것이라고 가정했다. 따라서 최초로 수집할 설거지 동영상의 개수는 8개다.
퀘스트 『스탠포드』 에서는 이 모델이 사용자의 설거지 습관에 의해 낭비되는 물을 절약하는 것을 도울 수 있다는 점을 도출해내는 것이 중요하다. 따라서 모델 복잡도를 낮추기 위해 데이터를 수집하는 환경은 일정하게 유지하도록 한다. 촬영 시에는 항상 동일한 조명에서 촬영하도록 하고, 촬영자는 매 번 동일한 싱크대를 사용한다. 두런두런 프로그램에 합격한다면 (구입할) 야외용 싱크대에서 모든 촬영을 진행한다.
데이터 레이블링 규약 (이 또한 지속적으로 변경될 수 있음)
촬영 전 설거지 시연을 통해 수도를 자연스럽게 조작할 것인지 물을 계속 틀어 놓을 것인지 정하고, 촬영된 동영상들을 통해 데이터 레이블링 규약을 만든다. 가령 밸브 개폐 여부의 딜레이를 엄밀하게 제한할 것인지 유하게 넘어갈 것인지 하는 것 말이다.
업데이트 로그
엄밀함1: 멈추어 있는 스틸 이미지 한 장만 본다면, 레이블링이 되어 있다고 하더라도 판단을 하기 어려울 것이다. 연속된 n장의 이미지에 대한 레이블을 누적한 뒤 판단한다.
생각할만한 요소들
엄밀함2: 변화하는 순간을 ‘최대한 빡빡하게’ 가져간다.
레이블링 일관성 문제 발생을 막기 위해 레이블링 절차를 명확하게 한다.
1.
초벌작업: 동영상을 보면서 시점을 기록한다. 엄밀한 분류는 이후에 할 것이므로, 0.1초 단위로 기록한다.
2.
이미지화: 엄밀한 분류를 위해 동영상들을 초벌작업 때 지정한 시점을 기반으로 잘라낸다. 이때, 지정한 시점 전후로 1~3초(t) 정도의 간격을 두어 애매한 부분을 가려내고 상호검토가 가능하도록 한다.
우리가 🏷️퀘스트 『현장검증』을 통해 얻은 데이터는, 손 하나가 사라질 때 반드시 물이 켜지거나 물이 꺼진다.
3.
검토: 각 동영상 컷의 이미지를 주시하며 잘못 분류된 이미지를 다른 폴더로 이동시키거나, 애매한 이미지를 제거한다. 이때, 이동해야 한다고 생각한 이미지나 애매한 이미지는 다른 팀원들의 검토 이후에 이동을 승인하도록 만든다.
1-2의 하위 요소들은 사이클을 계속 돌아야 한다.

1-2-3. 퀘스트 『성악설: 태어날 때부터 완벽한 것은 없다』

최대한 빠르게 모델을 만들어보는 것 그 자체에 집중한다. 다양한 도구들을 사용해 보며 각각으로 만든 모델이 노력을 들여 만든 모델과 어떤 성능 차이가 나는지 들여다보고 효율적인 도구를 선택하기 위함이다.
GPT를 이용해서 나오는 소스코드 사용하기
깃허브를 뒤져서 소스코드 긁어오기
모델 공개 저장소 사용하기 Huggingface, Tensorflow Hub, Pytorch Hub
AutoML 사용하기
Model SaaS: AWS Rekognition, (누비랩의 SaaS, Chat GPT, 미드저니)
장점
단점
우리의 입장
모델 SaaS
그것과 관련하여 더이상 고민할 것이 없다.
뭐가 문제인지 모른다, 커스터마이징이 어렵다, 비싸다. 학습이 불가능할수도 있다.
설거지 상황의 분류모델 같은 것은 아직 본적이 없다.
모델 공개 저장소
사전학습 가중치가 제공된다, 가끔 재학습이 가능하게 제공되는 경우도 있다.
약간의 소스코드, 약간의 탐색 요구, 환경 구성 필요.
노코드
코딩을 하지 않아도 된다.
AutoML
코드를 조금만 써도 된다.
SaaS보다는 커스터마이징이 용이하다, 약간 비싸다, 여전히 약한 커스터마이징, 환경 구성 필요.
깃허브를 뒤져서 소스코드 긁어오기
커스터마이징이 가능하다.
모든 것들
GPT를 이용해서 나오는 소스코드 사용하기
뇌 빼놓고 할 수 있다.
레퍼런스가 없다. 안되면 물어볼 곳 없음. 되는지 안되는지도 불확실함.
직접 만들기

1-2-4. 퀘스트 『사람 구실』

데이터 측면, 모델 측면 모두를 정밀하게 검토하며 평가할 가치가 있을만한 모델 버전1을 만든다. 이번에도 마찬가지로 최대한 빨리 평가 단계로 넘어가는 것이 중요하다. 데이터를 수정할수도 있고, 추가적으로 취득할 수도 있고, 모델에 손을 댈수도 있다. 이 과정 속에서 어떤 부분에 문제가 있을 수 있는지를 판단해 볼 수 있다.

1-2-5. 퀘스트 『시험』

1.
설거지 방해도 평가: 물을 절약함과 동시에 사용자가 시스템에 불편함을 느끼지 않는 것도 성공적인 프로젝트에 있어 중요한 요소이다. 시스템을 통해 물을 절약했다한들 성능이 좋지 않은 모델로 인해 밸브 개폐 조절이 수월하지 않다면 AI의 행동을 기다리거나, 수전을 조작하는 행동을 취하기 때문에 사용자는 설거지에 소요되는 시간이 과도하게 길어질 것이다. i, ii의 총합을 사용자 편의의 방해로 정의하고 이 시간을 0으로 줄이기 위해 노력한다.
a.
사용자가 물을 필요로 할 때 모델이 작동하는 데까지 걸리는 시간
b.
사용자가 물을 필요로 할 때 사람이 임의로 물을 다시 켜는 데까지 걸리는 시간
c.
사용자가 물을 필요로 할 때 수전이 닫혀 있어서 물을 다시 켜려고 하는 동작을 하는 횟수
자동수전 시스템으로 설거지를 한 사람을 촬영한 비디오
사용자가 물을 필요로 함
사용자가 물을 필요로 하지 않음
물이 꺼져 있음
(a) 처음에는 물이 잘 나오지 않다가 모델이 결국 물을 틀어 주었다면, 모델이 물을 틀어주기까지 걸리는 시간 (b) 사용자가 물을 필요로 하는데 사람이 물을 직접 틀기까지 모델이 물을 켜 주지 않는다면, 사람이 물을 틀기까지 걸리는 시간 (c) 물을 다시 키려고 하는 동작의 횟수
Good
물이 나오고 있음
Good
???
2.
절약의 양 평가: 개방된 싱크대 하수구 아래 물받이 통을 설치한다. 아래 두 케이스를 비교하여 절약된 물의 양을 평가한다. (수도계량기 사용은 어떨지?)
a.
평소처럼 설거지를 할 때 사용한 물의 양을 측정한다.
b.
인위적으로 밸브를 개폐해주었을 때 사용한 물의 총량을 측정한다.
3.
설거지 방해도 평가(모델의 반응성)와 절약의 양 평가(모델의 정확도)에서 좋은 점수를 받지 못한다면 모델의 정확도와 반응성에 대한 수정 보완이 필요하다.
a.
모델의 반응성 평가: 반응성이란 이미지가 입력되고 추론 결과가 생성되기까지의 시간(인퍼런스 타임)을 말하고 인퍼런스 타임은 모델의 복잡도에 따라 결정된다. 인퍼런스 타임을 줄여야 한다고 생각되면 모델의 경량화를 진행한다. 초기 모델에서 좋은 설거지 방해도 평가를 받는다면 굳이 경량화를 진행하지 않는다.
i.
결국 인퍼런스 타임이 설거지 방해도와 절약의 양 둘 모두에 영향을 준다.
ii.
객관적인 기준을 잡자면, 최대한 10FPS 안으로 욱여 넣기.
b.
모델의 정확도 평가: 정확도란 물을 꺼야할 때 꺼야한다고 예측하고, 켜야 할 때 켜야 한다고 예측하는 모델 성능의 정도이다. 절약의 양 평가에서 좋지 않은 점수를 받는다면 학습 데이터와 모델의 수정 보완을 통해 정확도를 높이는 과정이 필요하다.

1-3. 퀘스트 『2차 전직』

다양한 모델 성능 개선 아이디어들을 적용해서 원하는 목표에 도달하기 위해 노력한다. 현재 상황에 따라, 지금 필요가 없다고 생각한다면, 『자동강화』 퀘스트를 빠르게 먼저 수행한 이후 다시 돌아와도 상관없다.
시계열 이미지 데이터로 패턴을 학습하고 패턴을 기반으로 추론 결과를 생성한다.
데이터 레이블링 시 0.5(물 중간)클래스를 도입한다. 즉, 이진분류 대신 다중클래스 분류로 문제를 바라본다.
밸브 개폐 여부가 해결되었다면, 더 많은 절약을 위해 급수량에 초점을 두어 회귀 문제로 바라본다.

1-4. 퀘스트 『주작』

급수량 제어 장치를 수도관에 연결하고(가정집에 설치하는 경우 수전 하부장에 제어 장치를 설치한다) 모델 출력에 따라 동작하도록 만든다. 제어 장치를 준비하고 해당 장치의 API를 공부하는 과정이 요구된다.
🆘
제어 장치를 준비해야 한다.

2. 퀘스트 『자동강화

💡
『자동강화』 퀘스트부터는 ‘모델’ 과 ‘가중치’ 라는 용어를 조심히 구분해 사용한다.
용어
비슷한 의미를 가지는 표현
모델
뼈대, 행렬의 구조, 소스코드
가중치
행렬의 내용물, 업데이트되는 실질적인 대상
사용자 입장
전자수전제어장치 오동작으로 인해 초기 사용감이 좋지 않을 수 있다.
사용자의 설거지 패턴과 사전 학습된 모델이 처리하는 패턴이 완벽히 일치하지 않기 때문이다.
사용할수록 설거지 체감이 좋아진다.
스탠포드 퀘스트를 통해 얻은 모델에서 한발짝 더 나아간다. 사람마다 설거지를 하는 습관은 모두 다르기 때문에 하나의 모델 가중치로 모든 사람의 설거지 상황에 대응할 수 없다. 수자원 절약을 위해 자동으로 급수량이 조절될 뿐 아니라 사용할수록 설거지 체감이 좋아지는 수전 시스템을 만든다.
각 설거지 패턴을 보고 사람이 일일이 분석하여 가중치를 제작하는 것이 아니라, 설거지 핸들(등..)로부터 받을 수 있는 피드백을 통해 개인 맞춤형이 되도록 가중치를 자동으로 업데이트 할 수 있도록 한다.
모델
원본 가중치
초기 상태
사용자
수정된 가중치
체감이 개선된 상태
ff
aa
fa(x)f_a(x)
다현
bb
fb(x)f_b(x)
ff
aa
fa(x)f_a(x)
석우
cc
fc(x)f_c(x)
이때, 수전 하나를 주로 사용하는 사용자는 한 명이라고 가정한다. 사용자의 페르소나도 식기 세척기가 구비되어 있지 않은 원룸에 거주하는 사람으로 상정한다. 원룸에 공유기가 변경되는 상황과 같이 프로덕션 환경에서 나타날 수 있는 변수들은 이 단계에서 고려하지 않는다.

2-1. 퀘스트 『재학습 파이프라인 구축』

2-1-1. 퀘스트 『아이템 준비』

퀘스트 『스탠포드』 에서는 필요하지 않았던 수전 핸들의 자석 센서 부착이 필요하다. 자석 센서의 값을 라즈베리파이까지 성공적으로 전달해야 한다.
🆘
이 과정에서 디자이너의 도움이 필요할 수 있다.

2-1-2. 퀘스트 『빅토리아 아일랜드』

모든 과정에 앞서 데이터가 가공 가능한 상태로 수집되어야 한다. 카메라 모듈과 자석 센서에서 받은 데이터를 라즈베리파이에서 전송해주어야 한다. 수전 전자제어 모듈이 수도관에 인접해 있으므로 안전상 조금 더 안전한 와이파이 사용을 고려한다.
1.
전체: 설거지가 시작될 때부터 끝나기까지 모든 프레임, 모든 추론 결과, 모든 피드백을 전부 라즈베리파이에 캐싱한다. 설거지가 모두 끝나면 캐싱된 데이터를 클라우드에 배치(batch)로 전송한다.
2.
부분: 어떤 데이터를 보낼지 고민하여(예를 들어 ) 해당 논리를 작성하고 이를 라즈베리파이에 적용하여 일부분만을 클라우드에 전송한다.
키워드

2-1-3. 퀘스트 『데이터처리의 시작』

💡
다리를 건너기 위한 최소한의 돌을 먼저 놓자.
1.
무언가를 하기 위해 가져오기(Data extraction): 『빅토리아 아일랜드』를 통해 수집된 데이터를 주피터노트북 등 데이터 분석 개발 환경으로 가져올 수 있도록 만든다.
2.
학습시켜보기: (extraction → 최소한의 전처리 → training 파이프라인 확인)
3.
클래스 언밸런스 검사(Data validation): Confusion matrix에 기반하여 클래스 언밸런스를 확인하고 간단히 시각화가 가능하도록 만든다.
수도관 열어야 함 - Positive
수도관 잠가야 함 - Negative
AI 시스템이 사용자의 의도를 적절히 파악함 - True
True Positive
True Negative
AI 시스템이 사용자의 의도를 적절히 파악하지 못함 - False
False Positive (데이터가 많을 것으로 예상)
False Negative (일부 사용자의 경우 이에 속하는 데이터가 매우 적을 것으로 예상*)
꼭 클래스 언밸런스 뿐 아니라 다양한 기준으로 확인할 수 있다. 단, 완성이 더 중요하므로 너무 많은 것을 생각하지 않도록 주의한다.
시각화 시에는 이미 있는 솔루션들을 적극적으로 활용해도 좋다. 클라우드에서 기본적인 자동 검증 기능들을 제공하며, 직접 구축하고 싶은 경우에는 TensorBoard 등을 이용할 수 있다.
*️⃣
: 물을 잠그는 습관이 없는 사용자는, 수도관을 잠가야 하는 상황에서 절수 시스템이 동작하지 않는다고 하더라도 수전 핸들을 닫는 행위를 하지 않을 가능성이 높기 때문이다. 이 상황이 누적되면 재학습 상황에서 ‘아 이럴때는 그냥 물을 틀어두는 것이 맞구나’ 라고 학습될지도 모른다. : 만약 초기 모델이 이 상황에서 물을 잘 잠갔다면 문제가 없을 것이다. 처음에는 초기 모델이 엉성할 수 있지만 모든 사용자의 피드백 정보를 기반으로 초기 모델도 업데이트를 한다면 방지할 수 있지 않을까?
4.
학습시켜보기: (extraction → 최소한의 전처리 → validation → 최소한의 전처리 → training 파이프라인 확인)
5.
데이터 준비(Data preparation): 데이터 검증에서 얻은 인사이트를 반영하여 학습 데이터 만들기(extraction → 최소한의 전처리 → validation → preparation → training 파이프라인 확인)
수도관 열어야 함 - Positive
수도관 잠가야 함 - Negative
AI 시스템이 사용자의 의도를 적절히 파악함 - True
20프레임
30프레임
AI 시스템이 사용자의 의도를 적절히 파악하지 못함 - False
80프레임
10프레임
항목마다 비율을 비슷하게 맞춘다. (클래스 레이블이 ‘수도관 열기’ 인 것과 ‘수도관 잠그기’ 인 것)
많은 것을 줄인다.
적은 것을 늘린다.
전에 사용했던 데이터를 추가적으로 가져온다.
데이터 증강 기법들을 이용한다.
6.
학습시켜보기: (extraction → validation → preparation → training 파이프라인 확인)

2-1-4. 퀘스트 『헌집줄게 새집다오

수전 시스템은 일 단위로 사용자가 수전을 사용하고 있지 않은 시간에 클라우드에 최신 가중치파일을 요청한다. 클라우드는 업데이트를 요청받았을 경우 해당 수전에게 제공할 수 있는 최신 가중치 파일의 존재 여부를 확인하고 변경사항이 존재하는 경우 해당 파일을 전송한다.
클라우드 DB는 하나이지만 수전의 개수는 n개임을 가정하므로, 수전마다 클라우드와 주고받아야 하는 데이터/가중치파일 등 정보들이 상이하기 때문에 각 수전을 식별할 수 있는 시스템이 필요하다.
1.
수전을 사용하지 않을 때, 주기적으로 클라우드에 요청*을 할 수 있도록 스케줄러를 작성해야 한다.
*️⃣
수전 시스템이 클라우드에 요청을 하고 그때마다 클라우드가 응답하는 방식을 사용하는 대신 SSH와 같은 프로토콜을 이용해 클라우드가 강제로 라즈베리파이의 입을 열고 모델을 넣는 경우를 고려하지 않는 이유는 (1) 보안상 좋지 않은 방법이기 때문, (2) 라즈베리파이의 상황을 고려해야 하기 때문, (3) 수전 시스템이 클라우드에 요청을 하는 과정에서 배울 점이 많고 구현하기가 어렵지 않기 때문이다.
2.
수전 시스템을 식별할 수 있는 정보를 어떻게 클라우드에 전달할지 명세해야 한다.
인벤토리 파일에 매개 변수를 지정하여 클라우드에서 식별
라즈베리파이의 MAC 주소를 HTTP에 담아서 전송
3.
클라우드 서버는 요청을 전송한 수전 시스템에게 전달할 가중치 파일을 선별할 수 있어야 한다.
4.
수전 시스템은 저장공간 확보를 위해 과거에 사용하던 가중치 파일을 삭제*하고 새롭게 다운로드 받은 가중치 파일로 모델을 실행할 수 있어야 한다.
*️⃣
물론 모델 재학습의 관점에서는 가중치를 업데이트하는 것이지만, 라즈베리파이가 실행하는 파일을 기준으로 보면 이전 가중치 파일을 삭제하고 새로운 가중치 파일을 로드하여 실행하므로 ‘교체한다’고 표현할 수 있다.
키워드
💡
model validation: 단순히 validation 데이터셋이나 test 데이터셋으로 metric 을 확인해 보는 것 이상으로, 모델이 어떤 것을 잘 하고 어떤 것을 못하는지 정성적으로도 평가하는 과정. 보통 클라우드의 AutoML 을 사용해보면, 생성된 모델에 대해 깔끔하게 보고서 형식으로 모델에 대한 분석 결과를 보고한다. (섀플리 값 분석 결과, confusion matrix 확인 등…)

2-1-5. 퀘스트 『?』

❗
이 영역은 『스탠포드』 퀘스트를 마친 다음 고민한다.
💡
경량화에 대한 이야기
💡
모니터링과 트리거에 대한 이야기

2-2. 퀘스트 『?』

❗
이 영역은 『스탠포드』 퀘스트를 마친 다음 고민한다.
💡
이 모든 과정을 자동화하는 것에 대한 이야기

3. 프로덕션

❗
이 영역은 『재학습 파이프라인 구축』 퀘스트를 마친 다음 고민한다.

3-1. 캐스캐이딩

❗
이 영역은 『재학습 파이프라인 구축』 퀘스트를 마친 다음 고민한다.