MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了

一个月前,OpenAI 总裁 Greg Brockman 向世人展示了 GPT-4 令人惊讶的多模态能力,如从手写文本直接生成网站和识别图像中的幽默元素等。

尽管目前 OpenAI 暂未对 GPT-4 用户开放这一能力,但具有多模态能力的视觉语言模型令人充满了想象力。

近日,来自阿卜杜拉国王科技大学的研究团队,便提出了一个具有类似 GPT-4 图像理解与对话能力的 AI 大模型——MiniGPT-4,并将其开源。

据介绍,MiniGPT-4 具有出色的多模态能力,如从手写草稿创建网站、生成详细的图像描述、根据图像创作故事和诗歌、为图像中描述的问题提供解决方案,以及根据食物照片教对话对象如何烹饪一道美味的菜品等。

MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第1张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第2张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第3张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第4张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第5张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第6张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第7张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第8张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第9张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第10张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第11张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第12张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第13张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第14张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第15张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第16张图片

MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第17张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第18张图片
MiniGPT-4:看图聊天、教学、创作、搭网站......还开源了_第19张图片

在技术层面上,MiniGPT-4 由一个带有预训练的 ViT 和 Q-Former 的视觉编码器、一个单一的线性投影层和一个 Vicuna 大语言模型组成。而且,MiniGPT-4 只需要训练线性层,使视觉特征与 Vicuna 保持一致。

有 Y Combinator 用户这样评价 MiniGPT-4,“在技术层面上,他们正在做一些非常简单的事情…但结果非常惊人。最重要的是,它在 OpenAI 的 GPT-4 图像模态之前出现。(这是)开源 AI 的真正胜利。”

也有用户表示,“我认为他们为一个不相关的项目使用 GPT-4 名称是一种糟糕的形式。毕竟,底层的 Vicuna 只是一个微调的 LLaMA。另外,他们使用了较小的 13B 版本。然而,结果看起来很有趣。”

项目地址:
https://minigpt-4.github.io/
GitHub地址:
https://github.com/Vision-CAIR/MiniGPT-4

你可能感兴趣的:(人工智能那些事儿,人工智能,计算机视觉,深度学习,AIGC,机器学习)