무료 OCR API 서버 - OCR http server (부제. AI기반 서비스에서 토큰을 절약하기 위한 전략)

 

https://ocr-server.com 

 

AI Natvie 코딩을 통해 최근 진행한 사이드 프로젝트를 소개하려고 한다.

더불어서 이 앱을 통해 AI를 활용한 서비스에서 토큰을 절약하는 방법도 함께 소개하려고 한다.

(AI Native 코딩에 대해 더 알고 싶다면 https://burndogfather.com/291 여기로!)

 

 

배경

보통 회사에서 업무지원이나 백오피스나 플랫폼 서비스에 있어서 신분증, 사업자등록증을 확인하거나 차량번호를 인식한다거나 하는 등의 OCR 처리를 사용할 일이 있는데 이 때 보통 상용 소프트웨어 또는 OCR SaaS를 사용하게 된다.

 

사진 안의 글자를 인식하는 OCR 문서를 인식하기 위해 건당 비용 또는 매월 막대한 비용을 지출해야하기 때문에 일부 기업에서는 비용절감 차원에서 오픈소스인 tesseract을 사용하는 경우도 있다.

하지만 tesseract의 경우 한국어 인식이 처참한 문제로 마개조없이 사용하기에 어려움이 많다.

 

언젠가 아이폰이나 맥북의 갤러리를 들어가보면 사진 오른쪽 하단에 아래와 같은 이미지 인식하는 버튼을 볼 수가 있는데, 이 기능은 Apple에서 독자적으로 제공하는 OCR기능이다. 이 OCR은 온디바이스에서 작동됨으로 네트워크 연결없이도 이용할 수 있다!

이 기능을 조금 Deep하게 파고 들어가보니 Apple vision framework를 통해 작동된다는 사실을 알게 되었고, 이것을 활용해서 뭔가를 만들어봐야겠다는 생각이 들었다.

 

 

 

 

AI에 대한 단상

요즘 AI FOMO로 인해 AI를 사용하지 않으면 뒤쳐진다는 느낌을 받는 사람이 많을 것이다. 

"못 믿겠지만, 안쓰면 뒤쳐질 것 같아요" 라며 개발자 뿐만 아니라 마케터, 선생님들까지 정말 다양한 직군에서 AI를 적극적으로 배우거나 실무에 적용할려고 노력하고 있는 요즘이다.

 

겨우 문서를 분류한다거나 웹에서 데이터를 수집한다거나 하는 단순 반복 행위를 AI에게 값 비싼 토큰을 주며 사용하는 일들을 주변에서 쉽게 볼 수 있는데 개발자적인 관점에서 봤을때 엄청난 낭비로 보여졌다.

일례로 AI를 알려주는 모임이나 강좌를 보면 대부분 AI를 활용한 서비스로 "사주사이트" 따위를 만들거나 실제 거래는 불가능하지만 "주식 자동매매"등을 만들고 앉았다.

 

이게 대체 무슨 생산성이냐.

단순 문서분류를 AI에게 프롬프트 짜서 할 시간에 직접 하는게 더 빠르다.

요즘은 그깟 노가다적인 업무에 "하네스", "루프엔지니어링"이라고 말하기도 부끄러운 이름을 지어서 사용하는데

당연히 개발자야 정규화나 명령어등을 알고 있으니까 간이 프로그램을 뚝딱 만들어서 한다고 치지만

이걸 AI로 활용하는 것은 엄연히 컴퓨팅자원의 낭비이면서 결과적으로 막대한 전기, 나아가 환경을 파괴하는 행위다.

(인류가 생산하는 전기의 55%이상은 아직도 화석연료를 통해 생산하고 있다)

 

일반인의 시각에서는 AI를 활용한 뭔가의 서비스나 제품을 만들어서 AI가 혼자 일을 하게 한다거나 AI가 알아서 돈을 벌어다주는 환상을 갖고 있다. 신기하게도 한국은 매번 새로운 뭔가가 나오면 각종 SNS에서 되도않는 생산성, 성공, 매출등을 미끼로 다양한 강의팔이들이 나타는 현상이 있다는 것을 망각하지 말자. 

AI 강의들 (출처 : 패스트캔퍼스)

 

무언갈 만들어진자고 치자.

AI를 활용한 뭔가의 서비스를 만들게 되면 막대한 AI 토큰비용을 감당하지 못해 무조건 손해가 난다는 것을 대부분 간과하고 있다.

원래 SNS에서 잘 된 케이스만 자랑하려고 업로드하지, 나 망했어요는 잘 없지 않은가.

우리가 흔히 사용하는 ChatGPT나 Claude code, Gemini 등을 자사가 제공하는 앱이나 웹서비스에서 사용할 때에는 구독제 요금제로써 사용할 수 있지만, 이런 고오급의 똑똑한 프론티어 모델들을 내가 만든 서비스나 제품에 녹일때는 다른 가격표를 제시한다.

 

바로 토큰당 가격 정책이다.

 

주요 프론티어 AI모델들의 토큰당 비용 비교 (출처 : openrouter)

 

그렇다면 AI기반 서비스에서 AI 토큰을 절약하는 방법은 어떤 것이 있을까?

단순히 입력 프롬프트를 적게 쓴다.

아니면 출력 프롬프트를 단답으로 짧게 대답하게 한다.

 

단순 입/출력당 토큰 비용에만 국한되지 않고 본질적인 토큰 절약 방법을 고민하게 되었고

내가 무료 OCR서버 프로젝트를 기획하게 된 배경도 이런 질문에서 시작했다.

 

 

AI토큰을 절약하는 전략

예시를 통해 AI토큰을 절약하는 방법을 소개하려고 한다.

"AI를 활용한 가계부 서비스"를 만든다고 가정하자.

 

가계부라고 하면 소비/지출과 수입에 대한 내역이 필요로 하고 이 내역을 통해 AI가 어떤 소비가 문제인지를 컨설팅을 제공하고자 할때, 소비를 확인하기 위한 대표적인 방법으로는 영수증을 촬영하는 방법이 있다.

영수증 이미지파일을 서버에 저장해두고 AI모델에 프롬프트와 함께 밀어넣기보다는 이 프로그램 (https://ocr-server.com)을 활용하여 이미지를 먼저 TEXT로 변환하고 RAW TEXT만 AI모델에 밀어넣는 것이다.

 

위에서 얘기한 것처럼 AI를 활용한 뭔가의 서비스를 만들 때는 입력과 출력에 대한 토큰당 비용이 발생하게 되는데 이미지를 직접 보내는 것보다 TEXT를 보내는 것이 토큰비용이 압도적으로 저렴하다.

OCR http server에서 영수증을 인식한 화면. 주소만 따로 가져올 수 있다

 

 

이번에는 재고를 담당하는 직원이 되어 회사의 "재고를 관리하는 앱"을 만든다고 가정하자.

규모가 되는 회사일 경우 재고품에 대해서 별도의 바코드로 관리되고 있을 것이다.

창고안에서 이동을 하며 바코드를 촬영해서 재고실사를 한다고 가정했을때, 바코드의 내용과 함께 실제 제품의 품목명을 함께 크로스체크하는 기능도  이 프로그램 (https://ocr-server.com)을 활용하여 구현할 수 있다.

OCR http server에서 제품을 인식한 화면, 바코드와 생산자, 원산지를 확인할 수 있다

 

AI를 활용한 어떤 서비스나 제품을 만들때 우리가 명심해야 할 것은 3가지이다.

 

1. AI토큰은 비싸다
2. AI토큰은 종량제로 과금된다
3. 텍스트가 이미지보다 수백배 토큰이 저렴하다

 

자, 그럼 OCR http server 를 설치하고 어떤 서비스를 만들건지 고민해보자.

https://ocr-server.com