Skip to content

[NM-636] GPU 번역 디스크 캐시 + 검출기와 각인 · 마크 번갈아 열기 + 내려놓기 - #91

Merged
taew0o merged 3 commits into
developfrom
feature/NM-636-model-cache
Oct 21, 2026
Merged

taew0o merged 3 commits into
developfrom
feature/NM-636-model-cache

Conversation

@taew0o

@taew0o taew0o commented Oct 21, 2026

Copy link
Copy Markdown
Contributor

무엇

  • GPU 번역 디스크 캐시 — LiteRT GPU serialization 으로 셰이더 번역 결과를 codeCacheDir/litert_gpu 에 남긴다. 빌드가 바뀌거나 직전 실행이 GPU 로 죽으면 백그라운드에서 비운다. 키는 모델 파일 · 크기 · 배치 · 정밀도 · 앱 버전 · 기기 빌드.
  • 번갈아 열기 — 검출기와 각인 · 마크를 함께 쥐지 않는다. 검출 전에 각인 · 마크를, 각인 · 마크를 열기 전에 검출기를 닫는다. 마크를 각인보다 먼저 연다(여는 순간 약 200MB 튀는 것이 각인 위에 얹히지 않게).
  • 내려놓기 — 알약 플로우 화면(촬영 ~ 결과 · 수정 · 상세)이 모두 사라지면 1초 뒤 쉬고 있는 모델을 닫는다. 도는 검출 · 판독은 막지 않고 끝난 뒤 닫는다.
  • 안전 — 검출 · 판독은 잠금을 쥔 채 실행해, 실행 중인 모델을 다른 쪽이 닫지 못하게 한다. 판독 루프는 알약마다 취소를 확인한다.

실측 (Galaxy S24 · Exynos 2400, debug)

항목 전 후
모델 열기(두 번째 실행부터) 약 8초 약 2초
메모리 정점(Native + GL) 약 1.5GB 955MB
식별을 마친 뒤 약 1.5GB 유지 약 0.3GB
답 각인 50 · 종 7/71/9 같음

내려놓기 경로: 홈 → 촬영 → 뒤로(627 → 245MB), 알약 탭 → 촬영 → 시스템 뒤로(628 → 234MB), 판독 중 홈 탭 이동(세 알약 다 읽은 뒤 846 → 364MB, 모델은 한 번만 연다).

Firebase Test Lab — GpuCacheTest (빈 캐시로 열기 → 같은 캐시로 다시 열기 → 답 비교)

10대 모두 통과, 캐시를 쓰고 다시 연 모델이 같은 답을 냈다. 시간은 열기 + 실행 1회.

기기 세그 처음 → 캐시 마크 각인
m1q (36) 2.5 → 0.9초 1.6 → 0.5 1.9 → 0.7
dm1q · S23 (35) 3.6 → 1.1 2.4 → 0.7 3.2 → 1.2
b0q · S22U (33) 5.3 → 1.7 2.4 → 0.6 3.3 → 1.5
caiman · Pixel 9 Pro (35) 3.0 → 1.6 2.0 → 0.8 2.5 → 1.5
oriole · Pixel 6 (33) 5.1 → 2.6 3.4 → 1.2 4.0 → 2.3
a35x (35) 6.1 → 3.3 3.4 → 1.5 4.6 → 2.7
redfin · Pixel 5 (30) 7.6 → 3.6 4.4 → 2.0 5.7 → 3.4
starlte · S9 (29) 7.7 → 3.5 4.3 → 1.6 5.4 → 3.5
a12 (31) 27.6 → 17.0 32.0 → 11.2 24.9 → 14.5
F01L (27) 37.0 → 24.3 24.0 → 15.3 35.0 → 25.8

a12 · F01L 은 GPU 실행 자체가 느리다(기존 발견, ML 쪽 과제).

리뷰

코드 리뷰 스킬 두 번. 1차 9건 · 2차 6건을 반영했다. 반영하지 않은 것: 캐시 키에 모델 해시 — 모델은 APK 에만 실려 바뀌면 곧 앱 업데이트이고, 시스템이 업데이트 · OS 업그레이드마다 codeCacheDir 를 비운다(KDoc 에 근거).

🤖 Generated with Claude Code

taew0o and others added 3 commits October 21, 2026 20:09
- LiteRT GPU serialization 으로 번역 결과를 codeCacheDir/litert_gpu 에 남긴다. 빌드가 바뀌거나 GPU 로 죽으면 비운다
- 검출이 끝나면 검출기를 닫고 각인 · 마크를 연다. 재촬영하면 반대로. 마크를 먼저 열어 여는 순간의 튐이 겹치지 않게 한다
- 식별이 끝나거나 촬영 화면을 닫으면 모델을 내려놓는다
- S24: 다시 열기 약 8초 → 2초, 메모리 정점 약 1.5GB → 955MB, 식별 뒤 거의 0
- GpuCacheTest: 캐시로 다시 연 모델이 처음 연 모델과 같은 답을 내는지 기기별로 본다

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
- 검출 · 각인 · 마크를 잠금을 쥔 채 실행한다 — 받아 간 모델을 다른 쪽이 첫 실행 전에 닫던 창을 없앤다
- 판독 루프가 취소를 삼키지 않게 알약마다 확인한다 — 재촬영 뒤에도 돌며 새 검출기를 닫지 않게
- 내려놓기를 화면 콜백 대신 보유 수로 — 알약 탭에서의 시스템 뒤로 · 탭 이동도 내려놓는다
- 내려놓기 · 다시 쓰기의 순서 값을 잠금으로 묶는다
- GPU 캐시 비우기를 메인 스레드 밖에서 한다
- GpuCacheTest: 저장을 못 하는 드라이버는 실패가 아니라 건너뜀

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
- 내려놓기가 진행 중인 판독 · 검출을 실패시키던 것을 없앤다 — 탭을 옮겨도 남은 알약까지 다 읽는다
- 회전처럼 플로우 화면이 잠깐 0 이 되는 때를 넘기려고 1초 기다리고, 닫기 직전 잠금 안에서 다시 본다
- 판독 루프 전체를 사용 중으로 묶는다 — 알약 사이 빈틈에 끼어 매번 닫았다 다시 열던 것(S24)

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
@taew0o

taew0o commented Oct 21, 2026

Copy link
Copy Markdown
Contributor Author

통과 기준 검증

기준 결과 근거
두 번째 실행부터 모델 열기가 짧다 통과 S24 약 8초 → 2초. Test Lab 10대 모두 캐시로 다시 열기가 1.5~3배 빠르다
캐시로 다시 연 모델이 같은 답 통과 GpuCacheTest 10대 통과(검출 IoU ≥ 0.99, 마크 종 · 유무, 각인 글자 · 점수). logcat 에 기기별 시간이 남았다 — 건너뛴 기기 없음
검출기와 각인 · 마크를 함께 쥐지 않는다 통과 S24 메모리 정점 약 1.5GB → 955MB(Native + GL, 캐시 찬 상태)
플로우를 떠나면 내려놓는다 통과 홈 → 촬영 → 뒤로 627 → 245MB · 알약 탭 → 촬영 → 시스템 뒤로 628 → 234MB · 판독 중 홈 탭 846 → 364MB
도는 판독을 끊지 않는다 통과 판독 중 탭 이동에도 세 알약을 다 읽음(각인 50 · 종 7/71/9). 모델은 한 번만 연다
release(R8) 통과 assembleRelease 사이드로드 → 식별 1회 → crash 버퍼 0줄. 온디바이스 결과 debug 와 같다. 서버 401 은 사이드로드의 App Check 실패(docs/RELEASE.md 「사이드로드라서 고장 난 것처럼 보이는 것들」)
로컬 검사 통과 spotlessCheck · detekt · lint · test · app/wear assembleDebug

판독 중 재촬영 경합은 실기기에서 시점을 맞추지 못했다(캐시가 차면 판독이 결과 화면보다 먼저 끝난다). 구조로 막았다 — 검출 · 판독은 잠금을 쥔 채 실행하고, 판독 루프는 알약마다 취소를 확인한다.

@taew0o
taew0o merged commit ab45810 into develop Oct 21, 2026
1 check passed
@taew0o taew0o mentioned this pull request Oct 21, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant