Vision Banana 的核心是激活生成模型固有的理解能力,通过轻量指令微调将图像生成器转化为通用视觉模型;其隐空间已隐式建模光影、几何与语义,指令微调仅建立RGB编码映射规则,实现分割、深度、法线等任务零样本泛化。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

Vision Banana 的核心机制不是给生成模型“加理解模块”,而是发现并激活它原本就有的理解能力。它不靠额外判别头、不改原始结构、不重训参数,只用极轻量的指令微调,就把一个顶级图像生成器,变成能做分割、深度估计、法线预测的通用视觉模型。
生成预训练本身就在学“理解”
传统观点认为,生成模型只是在拟合像素分布;但 Vision Banana 的实验证明,Nano Banana Pro 在海量文生图与图像编辑任务中持续训练时,其隐空间已自然建模了光影逻辑、物体几何、语义边界和空间关系。比如画一只猫,模型必须知道耳朵在哪、胡须多细、毛发如何随光弯曲——这些不是装饰,是生成成立的前提。何恺明团队指出:这种对物理世界的隐式建模,就是未被显式调用的“沉睡理解力”。
指令微调 = 教模型“把理解画出来”
关键不在学新知识,而在建立输出映射规则。研究团队设计了一套可逆的 RGB 编码协议:
Veo 3.1增强了音频生成能力、提示词理解能力和角色一致性控制。支持多参考图生成、场景扩展(Scene Extension)、更长视频制作以及更精准的镜头控制,同时提升了画面真实感和叙事能力。是当前 Google 主推的旗舰视频生成模型。
- 语义分割:用指定 RGB 值(如 )代表某类别,其余区域填黑;评估时聚类该色块即可还原掩码
- 深度图:将连续距离 d 映射为 (R,G,B),采用幂律变换保证近处细节不丢失、远处仍有区分度
- 表面法线:单位向量 (x,y,z) ∈ [−1,1]³ 线性映射到 [0,255]³,解码误差可控且可微
所有任务输出统一成一张标准 RGB 图,模型只需听懂 prompt(如“滑板涂黄,其余黑”),然后照着画——画得准,说明它真懂。
零样本泛化靠的是表征一致性
Vision Banana 在 Cityscapes 上 mIoU 达 0.699,超越 SAM3;在单目深度估计六个基准平均精度 0.882,领先现有最优模型近 6 个百分点。这些成绩不是靠大量标注数据堆出来的,而是在仅混入极低比例(
保留生成能力是范式成立的前提
如果微调后不会画画了,那它就只是个换壳判别模型。但 Vision Banana 在 GenAI-Bench 文生图人类评估中胜率达 53.5%,图像编辑任务胜率 47.8%。这说明它的每个像素仍承载双重意义:既是美学表达,也是物理测量。画一只苹果时,它不仅知道红怎么调,还知道果梗朝哪、高光在哪、阴影多深——理解已内化于生成过程本身。

















