大模型 18

Gemma-4-31B开源大模型权重级攻击Abliteration越狱技术

开源大模型“越狱”真相:从 Gemma-4-31B 破解看权重对齐抹除 本文基于 2026 年 4 月最新安全研究整理,深度解析开源模型“越狱”的技术本质。 近期,Google 的开源大模型 Gemma-4-31B​ 在发布后极短时间内被社区彻底“破解”,其花费数百万美元构建的安全对齐机制被完全移除...

LLaMA-Factory零门槛操作的全能大模型微调平台

在 LLM(大语言模型)微调领域,如果说 Unsloth 是追求极致速度的“轻量化跑车”,那么 LLaMA-Factory 就是一辆功能全、动力足、谁都能上手的“全能越野车”。 它是由北京大学团队主导开发的开源项目,目前已成为国内乃至全球最受欢迎的微调框架之一。以下是关于 LLaMA-Factory...

LLM量化等级全解析:如何根据显存选择最佳模型精度(Q8_0到Q2_K指南)

在 AI 模型(特别是大语言模型)中,量化等级(Quantization Level)指的是将模型权重从高精度浮点数(如 FP32)转换为低精度整数(如 INT8、INT4)的压缩程度。 它直接决定了模型文件的大小、运行速度以及推理质量。 简单来说: ...