BitNet - 1비트 LLM 추론 프레임워크 (Microsoft)

Microsoft의 1.58비트 LLM 전용 추론 엔진. 소비자 CPU에서 100B 파라미터 모델을 사람 읽기 속도(5~7 tok/s)로 실행. ARM CPU 1.37~5.07배 속도 향상, 에너지 55~82% 절감. C++ + Python, llama.cpp 기반, GGUF 포맷.