我要投稿
微信搜一搜，关注“猜想笔记”
1. **模型简介**：
- Index-1.9B系列是轻量级的语言模型。
- 包含`Index-1.9B base`、`Index-1.9B pure`、`Index-1.9B chat`和`Index-1.9B character`等模型。
- 模型已在HuggingFace和ModelScope上开源。
2. **预训练**：
- 模型在2.8T的数据上训练，涵盖中英文等多种语言。
- 数据经过清洗，包括避免偏置和去重。
- 使用SentencePiece训练BPE Tokenizer，特别针对中文进行了优化。
3. **模型架构**：
- 与主流的Decoder-Only Transformer模型一致，进行了一些调整，如更深的模型层数（36层）和Norm-Head机制。
4. **训练过程**：
- 使用AdamW优化器，两阶段训练策略（Stable和Decay阶段）。
- 训练基建使用了自研训练框架和华为昇腾910B卡。
5. **评测**：
- 使用OpenCompass框架进行评测，包括综合性选择题、理解和推理、数学和代码评测。
6. **讨论和实验**：
- 探讨了模型结构、学习率、预训练中是否加入指令等因素对模型性能的影响。
- 进行了消融实验，分析了不同组件对模型性能的贡献。
7. **对齐**：
- 通过SFT（Supervised Fine-Tuning）和DPO（Direct Preference Optimization）进一步优化模型，以符合人类偏好。
8. **角色扮演**：
- 利用RAG（Retrieval-Augmented Generation）技术，实现few-shot角色扮演定制。
9. **局限性**：
- 尽管采取了合规性检测，但模型可能存在未预料到的问题，使用时需注意潜在风险。
以上由Kimi总结，0 shot。原文档字有点小，凑合看吧。在公众号后台回复“B站”获取原文档。
//
END.
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-06-14
挑战 Transformer 架构的谷歌最新扩散模型 Gemini Diffusion 系统提示词
2025-06-14
“AI原生”时代：企业数智化转型的分水岭
2025-06-14
多模态RAG的三类图文问答实现方式，你知道多少种？
2025-06-14
新一代文本表征Qwen3-Embedding与排序模型Qwen3-Reranker 部署和替换
2025-06-14
“华强北”围攻AI耳机，未来智能如何突围？
2025-06-14
AI时代如何为企业和个人赋能
2025-06-14
没吃透 Function Calling？难怪你不理解 AI Agent 为何非来不可！
2025-06-14
浅尝一下微软的AutoGen框架
2025-05-29
2025-03-20
2025-03-21
2025-04-11
2025-03-20
2025-03-19
2025-03-20
2025-03-19
2025-03-19
2025-03-19
2025-06-14
2025-06-14
2025-06-14
2025-06-14
2025-06-13
2025-06-13
2025-06-13
2025-06-13
回到顶部
粤ICP备17114055号