跑通大模型领域的 hello world

跑通书生·浦语大模型的 3 个趣味 demo(InternLM-Chat-7B 智能对话、Lagent工具调用解简单数学题、浦语·灵笔多模态图文创作和理解)视频和文档。

1、两个框架

InternLM 是⼀个开源的轻量级训练框架,旨在⽀持⼤模型训练⽽⽆需⼤量的依赖。
Lagent 是⼀个轻量级、开源的基于⼤语⾔模型的智能体(agent)框架,⽀持⽤户快速地将⼀个⼤语⾔模型转变为多种类型的智能体。

2、连接服务器

在本地使用ssh连接云端的GPU服务器。

普通连接

ssh -o StrictHostKeyChecking=no -p 33574 [email protected]

连接服务器 并映射出端口到本地

ssh -L 6006:127.0.0.1:6006 [email protected] -p 33574 -o StrictHostKeyChecking=no

3、用tmux执行命令

为了让窗口与进程解构,在tmux中执行linux命令。

1、bash
2、新建会话tmux new -s my_session。
3、在 Tmux 窗口运行所需的程序(conda activate internlm-demo等)。
4、按下快捷键Ctrl+b d将会话分离。
5、下次使用时,重新连接到会话tmux attach-session -t my_session。

4、更换pip、conda源

在MirrorZ中提供了各类开源软件库的镜像和设置镜像的方法。

5、实现效果

跑通大模型领域的 hello world_第1张图片
跑通大模型领域的 hello world_第2张图片
跑通大模型领域的 hello world_第3张图片
跑通大模型领域的 hello world_第4张图片
跑通大模型领域的 hello world_第5张图片

你可能感兴趣的:(人工智能)