相关阅读
相关 LLM-LLaMA中文衍生模型：LLaMA-ZhiXi【没有对词表进行扩增、全参数预训练、部分参数预训练、指令微调】
> 下图展示了我们的训练的整个流程和数据集构造。整个训练过程分为两个阶段： > > （1）全量预训练阶段。该阶段的目的是增强模型的中文能力和知识储备。 > > （2）使用L
太过爱你忘了你带给我的痛相关 LLM-LLaMA中文衍生模型：Chinese-LLaMA-Alpaca【扩充词表、Lora部分参数预训练、微调】
GitHub：[GitHub - ymcui/Chinese-LLaMA-Alpaca: 中文LLaMA&Alpaca大语言模型+本地CPU/GPU训练部署 (Chinese
忘是亡心i相关 Full-Parameter全参数微调与LoRA低秩微调
近年来，大型语言模型的指令微调是自然语言处理领域的一个重要研究领域。 由于资源和成本的限制，一些研究人员采用了参数有效的调整技术，如LoRA，并取得了不错的结果。与全参数微
超、凢脫俗相关 LLM-微调-方案（0）：prompt tuning
先说结论：已经有研究显示Prompt可以有效地应用到CV领域 \[[VPT][], CLIP, CoOP\]，但是应用仍然非常有限，有很大发挥空间。其一，Prompt的本质是调
秒速五厘米相关 LLM-微调-全参数微调：Full-Param Fine-tuning（100% parameters）
fine-tuning的过程就是用训练好的参数（从已训练好的模型中获得）初始化自己的网络，然后用自己的数据接着训练，参数的调整方法与from scratch训练过程一样（梯度下
灰太狼相关 LLM-微调-方案（一）：Lora【案例：chatGLM-Lora】【在chatGLM原有结构中间插入新的网络层】【微调时冻结原有结构参数，只微调新加入的网络层参数】
Lora主要在模型中注入可训练模块，大模型在预训练完收敛之后模型包含许多进行矩阵乘法的稠密层，这些层通常是满秩的，在微调过程中其实改变量是比较小的，在矩阵乘法中表现为低秩的改变
不念不忘少年蓝@相关 微调(Fine-tune)原理
微调(Fine-tune)原理 在自己的数据集上训练一个新的深度学习模型时，一般采取在预训练好的模型上进行微调的方法。什么是微调？这里已VGG16为例进行讲解，
亦凉相关 Tomcat-connector的微调(1): acceptCount参数
对于`acceptCount`这个参数，含义跟字面意思并不是特别一致（个人感觉），容易跟`maxConnections`,`maxThreads`等参数混淆；实际上这个参数在t
相关 pytorch笔记：Efficientnet微调
pytorch中有为efficientnet专门写好的网络模型，写在efficientnet\_pytorch模块中。 模块包含EfficientNet的op-for-op
我会带着你远行相关 查看JVM默认参数及微调JVM启动参数
目录 查看某个JVM进程堆内存信息 微调JVM启动参数 查看JVM的一些默认参数 参考廖雪峰老师的这篇 JVM调优的正确姿势： [https://w
还没有评论，来说两句吧...