論文要約 Fair-GPTQで大規模言語モデルを軽量化＆公平に！
紹介論文今回紹介する論文はFair-GPTQ: Bias-Aware Quantization for Large Language Modelsという論文です。 この論文を一言でまとめるとFair-GPTQは、大規模言語モデルのサイズを削...
量子化
論文要約 
論文要約 ButterflyQuant: LLM量子化の新たな一手
紹介論文今回紹介する論文はButterflyQuant: Ultra-low-bit LLM Quantization through Learnable Orthogonal Butterfly Transformsという論文です。 この...
論文要約 多言語機械翻訳における量子化の不均一な影響
紹介論文今回紹介する論文はThe Uneven Impact of Post-Training Quantization in Machine Translationという論文です。 この論文を一言でまとめると大規模言語モデル(LLM)の量...
論文要約 dLLM量子化の最前線：課題と最適な手法
紹介論文今回紹介する論文はQuantization Meets dLLMs: A Systematic Study of Post-training Quantization for Diffusion LLMsという論文です。 この論文を...
論文要約 全パラ2bit！夢のLLM「Fairy±i」徹底解説
紹介論文今回紹介する論文はFairy$\pm i$: the First 2-bit Complex LLM with All Parameters in $\{\pm1, \pm i\}$という論文です。 この論文を一言でまとめるとPek...
論文要約 OFTv2徹底解説: 大規模モデルの救世主となるか？
紹介論文今回紹介する論文はOrthogonal Finetuning Made Scalableという論文です。 この論文を一言でまとめるとOrthogonal Finetuning Made Scalable (OFTv2)は、大規模言語...