InternVL 微调实践

news/2024/9/28 9:14:10 标签: ai

aidu_pl">

任务

follow 教学文档和视频使用QLoRA进行微调模型，复现微调效果，并能成功讲出梗图.

复现过程

参考教程部署：https://github.com/InternLM/Tutorial/blob/camp3/docs/L2/InternVL/joke_readme.md
训练
在这里插入图片描述

合并权重&&模型转换

python3 xtuner/configs/internvl/v1_5/convert_to_official.py xtuner/configs/internvl/v2/internvl_v2_internlm2_2b_qlora_finetune.py /root/InternLM/work_dir/internvl_ft_run_8_filter/iter_1000.pth /root/InternLM/InternVL2-2B/

模型在这
在这里插入图片描述

最后效果

在这里插入图片描述

http://www.niftyadmin.cn/n/5680793.html

【微服务即时通讯系统】——etcd一致性键值存储系统、etcd的介绍、etcd的安装、etcd使用和功能测试

文章目录 etcd1. etcd的介绍1.1 etcd的概念 2. etcd的安装2.1 安装etcd2.2 安装etcd客户端C/C开发库 3. etcd使用3.1 etcd接口介绍 4. etcd使用测试4.1 原生接口使用测试4.2 封装etcd使用测试 etcd 1. etcd的介绍 1.1 etcd的概念 Etcd 是一个基于GO实现的分布式、高可用、一致…

逻辑回归（下）： Sigmoid 函数的发展历史

背景闲来无事翻了一下之前买的一个机器学习课程及之前记录的网络笔记，发现遇到公式都是截图，甚至是在纸上用笔推导的。重新整理一遍之前逻辑回归函数的学习笔记，主要是为了玩一下 LaTex 语法，写公式挺有意思的。整理之前三篇笔…

每日OJ_牛客_OR59字符串中找出连续最长的数字串_双指针_C++_Java

目录牛客_OR59字符串中找出连续最长的数字串题目解析 C代码1 C代码2 C代码3 Java代码牛客_OR59字符串中找出连续最长的数字串字符串中找出连续最长的数字串_牛客题霸_牛客网题目解析双指针： 遍历整个字符串，遇到数字的时候，用双…

万字长文理解无界队列和有界队列和适用场景

大家好，我是 V 哥，无界队列（Unbounded Queue）和有界队列（Bounded Queue）是两种常见的数据结构，用于存储和管理数据项。在计算机科学和并发编程中，它们有不同的特性和应用场景。下面详…

ubuntu22上C/C++程序使用weston+wayland+OpenGLES渲染

一，安装依赖软件：sudo apt install zlib1g-dev libssl-dev libgles2-mesa-dev libsystemd-dev libpng-dev libglib2.0-dev libwayland-dev weston libweston-9-dev 二，启动： # 运行weston weston -Swayland-1# 运行程序 ./yourp…