로컬 AI를 사용할 때는 모델과 실행 앱을 함께 준비해야 합니다. 모델은 응답을 만드는 데 필요한 학습된 정보를 담고 있고, 실행 앱은 그 모델을 불러와 질문을 처리합니다.
OMM은 모델을 찾고 설치하고 관리하는 과정을 돕습니다. Ollama와 LM Studio는 지원 모델을 실제로 실행하는 앱입니다.
사용할 앱을 설치한 뒤 내 컴퓨터에서 실행되는지 확인하세요. 사용할 모델의 파일 형식과 앱의 지원 범위도 함께 확인해야 합니다.
Ollama와 LM Studio는 모델을 관리하고 연결하는 방식이 다를 수 있습니다. 한 앱에서 사용한 파일이나 설정을 다른 앱에서도 그대로 쓸 수 있다고 가정하지 마세요.
모델을 설치했다면 다음 명령으로 OMM이 관리하는 모델 목록과 연결 상태를 확인할 수 있습니다.
omm list
그다음 사용할 실행 앱에서도 모델이 인식되는지 확인하세요. 파일이 저장된 것과 앱이 그 파일을 사용할 수 있는 상태는 구분해야 합니다.
앱에서 모델을 찾지 못한다면 저장 위치와 연결 상태부터 살펴보세요. 같은 파일을 다시 받기 전에 현재 설치된 파일이 있는지 확인하면 불필요한 다운로드를 줄일 수 있습니다.
로컬 API는 다른 프로그램이 실행 앱에 요청을 보내고 응답을 받을 수 있게 하는 연결 창구입니다.
실행 앱 자체의 대화 화면을 사용하는 경우와, OMM의 작업 화면 같은 다른 도구를 통해 대화하는 경우는 연결 과정이 다릅니다. 다른 도구에서 모델을 사용하려면 실행 앱의 로컬 API 서버를 켜야 할 수 있습니다.
API가 켜졌다는 사실만으로 모델 응답까지 확인된 것은 아닙니다. 연결된 서버와 선택한 모델을 확인한 뒤 실제 질문을 보내보세요.
로컬 작업 화면을 지원하는 버전에서는 다음 명령으로 화면을 열 수 있습니다.
omm web --open
이 화면은 내 컴퓨터에서 실행한 OMM 관리 화면입니다. 공식 웹사이트를 방문한 것만으로 이 관리 화면이 실행되거나 모델이 설치되는 것은 아닙니다.
작업 화면에서 모델을 준비하고 연결 상태를 확인한 뒤 대화를 시작하세요. 화면 구성과 제공 기능은 설치한 버전에 따라 다를 수 있습니다.