테크트리(TechTree)

https://github.com/microsoft/BitNet GitHub - microsoft/BitNet: Official inference framework for 1-bit LLMsOfficial inference framework for 1-bit LLMs. Contribute to microsoft/BitNet development by creating an account on GitHub.github.com 안녕하세요, Alternative입니다.마이크로소프트가 BitNet이라는 실험적 언어 모델을 실제로 출시했습니다.2023년부터 연구하던 건데, 목표는 무려 가중치를 1비트로 표현하는 것입니다. 기존에는 결과값에 대한 가중치(Weight)를 주는 데에 각각 16 또는 32비트 (FP16/..