2.5B짜리 AI 눈이 먼저 마주친 것은 벤치마크가 아니었다
약 라벨을 읽어주는 AI가 용량을 틀리면, 그건 “아직 모델이 작아서”라고 넘길 수 있는 오류가 아닙니다.
2026년 6월 15일 Hugging Face 커뮤니티 글에 공개된 Iris는 시각장애인과 저시력 사용자를 위한 브라우저 기반 음성·비전 보조 앱입니다. 만든 사람은 Marcus Antonio Cardoso Ramalho이고, 출발점은 아버지였습니다. 아버지가 손에 든 지폐가 얼마인지, 기침약 상자가 맞는지, 청구서에 적힌 금액과 납부일이 무엇인지 묻는 일상 과제를 스마트폰 카메라와 음성으로 풀어보려는 프로젝트였죠.
Iris가 흥미로운 이유는 “거대 모델 없이도 된다”는 단순한 구호 때문이 아닙니다. 전체 모델 스택이 약 2.5B 파라미터로 작고, Qwen3-VL-2B가 시각과 질문을 함께 보고, Faster Whisper가 음성을 텍스트로 바꾸며, Piper가 답을 다시 읽어줍니다. 시각 모델은 GPU가 맡고, 음성 입출력은 CPU 쪽에서 처리하는 구조입니다. 현재 데모는 Hugging Face ZeroGPU 위에서 돌아가지만, 개발자는 이 크기가 결국 스마트폰 온디바이스 실행으로 가기 위한 현실적인 경로라고 설명합니다.
아버지의 질문 세 개가 모델 선택 기준이 됐다
Iris 개발자가 강조한 대목은 모델을 리더보드로 고르지 않았다는 점입니다. 테스트 기준은 “이 모델이 아버지의 실제 질문에 답할 수 있는가”였습니다. 예컨대 포르투갈어 약 라벨을 읽히는 실험에서 한 인기 소형 비전 모델은 영어로 답했고, 용량도 틀렸습니다. 이 프로젝트에서는 그 순간 탈락입니다. 약은 “대충 맞는 설명”이 통하지 않는 영역이기 때문입니다.
결국 시각 모델은 Qwen3-VL-2B-Instruct가 선택됐습니다. Qwen 모델 카드는 이 모델을 image-text-to-text용 Apache 2.0 모델로 공개하고, OCR, 시각 추론, 모바일·PC GUI 이해, 장문·비디오 이해를 Qwen3-VL 세대의 주요 개선점으로 설명합니다. Iris에서는 이 넓은 능력 중 약 라벨, 청구서, 지폐, 테이블 위 물체처럼 좁고 반복적인 생활 과제만 뽑아 쓴 셈입니다.
| Iris 구성 요소 | 맡은 일 | 글에서 봐야 할 포인트 |
|---|---|---|
| Qwen3-VL-2B-Instruct | 카메라 이미지와 사용자 질문을 함께 해석 | 작은 비전 모델을 실제 언어·문서 과제로 검증 |
| Faster Whisper small | 사용자의 말을 텍스트로 변환 | 음성 앱에서 입력 지연을 줄이는 앞단 |
| Piper | 답변을 음성으로 읽기 | 클라우드 TTS 없이 로컬 음성 출력 가능 |
| COCO-SSD 기반 감지 | live mode에서 장면 변화 감지 | 매 프레임마다 비전 모델을 부르지 않기 위한 가벼운 필터 |
이 접근은 AI 제품을 만드는 팀에도 꽤 직접적인 교훈을 줍니다. “2B 모델이 얼마나 똑똑한가”보다 먼저 정해야 할 것은 “어떤 실패를 허용하지 않을 것인가”입니다. 약 라벨, 지폐, 청구서, 색상, 사람 유무는 모두 위험도가 다릅니다. 돈을 잘못 읽는 것과 셔츠 색을 틀리는 것은 피해가 다르고, 약 복용량을 틀리는 것은 더 무겁습니다.
작은 모델이 이기는 곳은 “늘 켜진 생활 보조”다
소형 모델의 장점은 절대 성능이 아니라 배치 방식에서 드러납니다. Iris처럼 카메라와 마이크를 쓰는 보조 도구는 대기 시간, 비용, 네트워크, 개인정보가 모두 사용자 경험입니다. 시각장애 사용자가 편의점에서 지폐를 확인하거나 집에서 약 상자를 확인할 때, 매번 무거운 클라우드 모델 호출을 기다려야 한다면 제품의 체감 가치는 크게 떨어집니다.
개발자가 “당신의 눈이 신호에 의존하면 안 된다”는 취지로 말한 대목도 여기와 연결됩니다. 아직 Iris는 완전 온디바이스가 아닙니다. 하지만 2.5B 안팎의 스택은 스마트폰 실행 가능성을 논의할 수 있는 크기입니다. 전부 서버에서 돌리는 100B급 모델과 달리, 작은 모델은 카메라 입력이 민감한 접근성 영역에서 더 설득력 있는 선택지가 됩니다.
비슷한 맥락은 음성 AI에서도 반복됩니다. 한국어 회의록과 보이스 에이전트에서 ASR 지연과 로컬 실행 가능성을 다룬 Nemotron 3.5 ASR 글에서도 입력을 빠르고 안정적으로 처리하는 앞단이 제품 품질을 크게 좌우했습니다. Iris는 여기에 비전과 접근성이라는 생활 맥락이 붙은 사례입니다.
제일 중요한 문장은 “이동 보조가 아니다”다
Iris 글에서 가장 중요한 안전 문구는 기능 소개가 아니라 제한 고지입니다. Iris는 주변을 설명하고 텍스트를 읽지만, 이동 보조 도구는 아닙니다. 작은 비전 모델은 거리를 안정적으로 판단하기 어렵고, 지연이 있는 모델 추론을 보행 중 장애물 회피에 쓰면 사용자를 위험하게 만들 수 있습니다.
빌드 트레이스 데이터셋을 보면 이 결정은 초기에 내려졌습니다. 처음에는 장애물을 알려주는 걷기 보조 아이디어도 검토됐지만, 2초 안팎의 지연과 거리 추정 문제 때문에 범위를 줄였습니다. 실내 인식, 읽기, 질문 답변 쪽으로 돌리고, 보행 안전은 기능에서 제외했습니다.
이 판단이 성숙합니다. AI 제품은 할 수 있는 일을 나열할 때보다 하지 않을 일을 정할 때 더 신뢰를 얻습니다. 특히 접근성, 의료, 금융, 아동, 노인 돌봄처럼 실패 비용이 큰 영역에서는 “모델이 가끔 맞는다”가 제품 기준이 될 수 없습니다. 모델이 자주 맞는 과제와 틀리면 안 되는 과제를 분리해야 합니다.
실제로 만들 팀이 먼저 적어야 할 체크리스트
Iris가 바로 상용 접근성 앱의 완성형이라는 뜻은 아닙니다. 더 정확히는 작은 모델로 접근성 보조 도구를 만들 때 어떤 질문을 먼저 해야 하는지 보여주는 공개 사례에 가깝습니다. 제품팀이나 개발자가 비슷한 도구를 만들려면 아래 순서부터 잡는 편이 낫습니다.
- 실제 사용자 과제 10개를 먼저 적는다. “장면 설명”처럼 넓은 목표보다 “지폐 금액 읽기”, “약 라벨 용량 읽기”, “청구서 납부일 읽기”처럼 좁은 과제가 좋다.
- 과제별 위험도를 나눈다. 색상, 물체 위치, 돈, 약, 법적 문서, 보행 안전은 같은 등급이 아니다.
- 모델 평가는 벤치마크 표보다 실제 사진과 실제 언어로 한다. Iris 사례에서는 포르투갈어 약 라벨이 모델 선택을 갈랐다.
- 불확실하면 짧게 말하게 한다. “확인 필요”, “라벨 일부가 흐립니다”, “복용량은 보호자나 약사에게 확인하세요” 같은 답이 안전할 때가 많다.
- 카메라 이미지와 음성 로그 저장 여부를 화면과 음성으로 고지한다. 접근성 도구일수록 사용자가 설정 화면을 찾아 읽기 어렵다.
- 이동, 거리 판단, 장애물 회피는 별도 검증 없이는 넣지 않는다. 설명 도구와 보행 안전 도구는 책임 수준이 다르다.
- live mode는 조용해야 한다. 계속 말하는 AI보다, 사용자가 물었을 때 잘 답하고 중요한 변화만 알려주는 AI가 더 실용적이다.
여기서 마지막 항목은 작지만 중요합니다. Iris의 빌드 트레이스에는 2B 모델이 매 프레임 방을 설명하게 두면 반복하고 없는 물체를 만들어내는 문제가 나옵니다. 그래서 live mode는 질문 중심으로 바꾸고, 주변 알림은 드물게 울리도록 조정했습니다. 작은 모델을 잘 쓰는 방법은 무조건 오래 말하게 하는 것이 아니라, 강한 순간에만 호출하는 것입니다.
무료 데모와 공개 기록이 남기는 다음 질문
Iris는 무료로 공개된 Hugging Face Space이며, 저장소 README에는 사용법, 모델 구성, 안전 고지, 로컬 실행 방법이 정리되어 있습니다. Build Small Hackathon 프로젝트답게 코드와 빌드 추적 데이터도 함께 열려 있습니다. 이 점은 접근성 AI에서 꽤 의미가 있습니다. 완성된 마케팅 영상보다, 어떤 기능을 포기했고 어떤 오류를 고쳤는지 남긴 기록이 더 많은 것을 말해주기 때문입니다.
다음에 볼 지점은 세 가지입니다. 먼저 완전 온디바이스 실행입니다. 지금은 ZeroGPU를 쓰지만, 목표가 스마트폰 자체 실행이라면 실제 기기에서 지연, 배터리, 발열, 메모리 사용량을 확인해야 합니다. 그다음은 언어와 지역성입니다. 포르투갈어 약 라벨에서 보듯 접근성 AI는 영어 데모만으로 충분하지 않습니다. 한국어 약 봉투, 편의점 영수증, 공과금 고지서, 병원 처방 안내문에서도 별도 검증이 필요합니다. 마지막은 책임 있는 배포입니다. 누가 이 앱을 추천할 수 있는지, 어떤 문구로 한계를 고지해야 하는지, 보호자·의료진·접근성 전문가가 어떤 검수에 참여해야 하는지까지 제품 설계에 들어와야 합니다.
Iris가 보여준 전환점은 거창하지 않습니다. AI가 “세상을 본다”는 말보다, 손에 든 약 상자를 읽고 틀렸을 때 멈출 줄 아는지가 더 중요해졌다는 점입니다. 작은 모델은 이 문제를 더 현실적으로 만듭니다. 빠르고, 싸고, 더 사적인 보조 기능을 만들 수 있으니까요. 대신 작은 모델이라는 이유로 안전 기준까지 작아져서는 안 됩니다.
출처와 더 읽을 거리
- Hugging Face 커뮤니티 글: I built AI eyes for my blind father, and it runs on tiny models: Iris의 개발 배경, 2.5B 모델 스택, 약 라벨 실패 사례, 이동 보조 제외 고지를 확인할 수 있는 원문이다.
- Iris Hugging Face Space: 실제 데모 앱, README, 사용법, 모델 구성, 안전 고지를 확인할 수 있는 공식 실행 페이지다.
- iris-agent-trace 데이터셋: Iris 개발 과정의 19개 추적 기록으로, 모델 선택과 기능 범위 축소, live mode 조정 이유를 확인할 수 있다.
- Qwen3-VL-2B-Instruct 모델 카드: Iris의 시각 모델로 쓰인 Qwen3-VL-2B-Instruct의 라이선스, 모델 크기, image-text-to-text 용도, 주요 개선점을 확인할 수 있다.
- SYSTRAN faster-whisper GitHub: Iris의 음성 입력에 쓰인 Faster Whisper의 구현 방식, CTranslate2 기반 최적화, 설치와 벤치마크 정보를 확인할 수 있다.
- Piper GitHub: Iris의 음성 출력에 쓰인 로컬 TTS 엔진 Piper의 저장소와 프로젝트 이동 안내를 확인할 수 있다.
- Iris 데모 영상: 실제 사용 장면과 음성 기반 시각 보조 흐름을 영상으로 확인할 수 있는 개발자 공개 데모다.
- AI Insight Hub: Nemotron 3.5 ASR, 한국어 보이스 에이전트와 회의록에 바로 쓸 수 있을까: 시각 보조와 별개로 음성 입력 지연, 로컬 실행, 보이스 에이전트 파이프라인을 이해하는 데 도움이 되는 기존 글이다.