AioLMGitHub에서 보기
언어를 변경하면 이 페이지가 선택한 언어로 열립니다.

로컬 모델을 하나의 작업 공간에서

AioLM에서 GGUF 모델을 탐색하고, llama.cpp 런타임을 관리하고, 로컬에서 대화하며 성능을 측정하세요.

GitHub에서 보기벤치마크 탐색
> powershell -ExecutionPolicy Bypass -Command "irm https://github.com/aiolm/AioLM/releases/latest/download/install.ps1 | iex"
AioLM 데스크톱 앱의 모델 실행 화면. 공개 GGUF 예시 모델 네 개가 표시되어 있고, Qwen3-8B-Instruct가 llama.cpp 런타임에 로드되어 있습니다.
AioLM 데스크톱 앱의 모델 실행 화면: 로컬 GGUF 라이브러리, 로드된 모델, llama.cpp 런타임을 하나의 창에서 확인할 수 있습니다. 공개 예시 모델로 표시했습니다.

모델 선택부터 성능 측정까지

직접 만들고 실험하는 사람들을 위한 간편한 로컬 LLM 작업 흐름.

  1. 모델 선택

    커뮤니티의 GGUF 모델을 탐색하고 라이브러리에 추가하세요.

  2. 원하는 방식으로 실행

    llama.cpp 런타임을 관리하고 하드웨어와 작업 흐름에 맞게 설정하세요.

  3. 측정하고 공유

    벤치마크를 실행하고 전체 실행 환경과 함께 결과를 검토하며 설정을 공유하세요.

자주 묻는 질문

AioLM은 무엇인가요?

AioLM은 All-in-One LM의 줄임말로, 로컬 언어 모델을 위한 데스크톱 작업 공간입니다. GGUF 모델 탐색, llama.cpp 런타임 관리, 로컬 채팅, 성능 벤치마크를 하나의 앱에서 제공합니다.

어떤 운영체제를 지원하나요?

Windows x64, macOS 13.3 이상(Apple Silicon·Intel), Linux x86_64(Ubuntu 24.04 이상) 빌드를 사용할 수 있습니다. Apple Silicon Mac은 Metal GPU 가속을 사용할 수 있고, Intel Mac은 CPU로 모델을 실행합니다. 플랫폼별 설치 가이드에서 릴리스 파일을 안내합니다.

공개 벤치마크는 무엇을 측정하나요?

공개 벤치마크는 AioLM 사용자가 직접 측정해 공유한 결과입니다. 각 결과에는 하드웨어, 런타임, 측정 방법, 워크로드가 포함됩니다. 성능 수치를 비교하기 전에 측정 조건을 확인하세요. 독립적으로 검증된 성능 순위는 아닙니다.

벤치마크를 보려면 계정이 필요한가요?

공개 벤치마크는 계정 없이 볼 수 있습니다. 결과 게시에는 인증 단계가 있으며, 게시한 결과는 복구 코드로 관리합니다.

수치와 함께 실행 환경도 살펴보세요

공개된 벤치마크에는 측정 방법, 워크로드, 하드웨어 정보가 포함되어 있어 실행 환경을 비교할 수 있습니다.

벤치마크 둘러보기