讲师中心 微信公众号
AI工具推荐 视频效率加速

Solaris— 谢赛宁研究团队开源的多人视频世界生成模型

秋宇小哥_5186

秋宇小哥_5186

发布时间:2026-03-14 11:13:29

|

722人浏览过

|

来源于php中文网

原创

Solaris是什么

solaris 是首个面向多人视频世界的生成式模型,专为 minecraft 环境设计,可同步生成两名玩家一致的第一人称视角视频。该模型突破了当前主流世界模型仅支持单玩家视角的限制,实现了跨玩家视角的空间一致性——例如当一名玩家放置方块或移动位置时,另一名玩家所见画面将实时、准确地呈现对应变化。研发团队自主研发了 solarisengine 数据采集系统,累计构建涵盖 1260 万帧的高质量多人游戏交互数据集,并创新提出 checkpointed self forcing 训练范式,有效缓解长序列建模中的显存压力与误差累积问题。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

Solaris— 谢赛宁研究团队开源的多人视频世界生成模型

Solaris 的核心能力

  • 双视角协同生成:支持同时输出两位玩家高度一致的第一人称视频流,确保空间结构、物体状态及动态事件在不同视角下严格对齐;任一玩家的动作(如挖掘、跳跃、转向)均能在另一视角中即时、合理地体现。
  • 长程时序可控生成:依托 Checkpointed Self Forcing 技术,Solaris 可稳定生成长达 224 帧(即 11.2 秒)的连贯视频序列,显著抑制传统自回归方法中因逐步预测导致的画面漂移与结构崩塌。
  • 细粒度动作驱动:全面兼容 Minecraft 全套原生操作指令,包括角色移动、视角旋转、方块交互(挖掘/放置)、物品使用等,生成内容严格遵循输入的动作轨迹与时序逻辑。
  • 高保真动态建模:能够精准复现背包物品同步更新、昼夜与天气切换、物理性建造/破坏过程、PvP 实时对抗等复杂游戏机制,体现真实世界交互的因果性与反馈闭环。

Solaris 的技术实现

  • 多视角 DiT 主干架构:基于 MatrixGame 2.0 单玩家扩散 Transformer 进行扩展,通过增大动作嵌入维度适配完整 Minecraft 操作空间;新增跨玩家自注意力模块以建模双视角间空间依赖关系,并引入玩家身份标识嵌入(Player ID Embedding)区分视角来源;其余组件(如交叉注意力层、前馈网络)沿用原始单玩家配置以保持稳定性。
  • 四阶段渐进式训练流程:起始于单玩家预训练权重,在 VPT 数据集上完成 Minecraft 动作空间适配微调;随后迁移至多人数据,训练双向教师模型;进一步将其因果化改造为滑动窗口生成器;最终通过 Checkpointed Self Forcing 实现端到端长序列优化。
  • Checkpointed Self Forcing 机制:针对滑动窗口自回归推理中 KV 缓存随长度线性增长的内存瓶颈,该方法先无梯度前向生成并缓存关键帧及其噪声中间态,再借助定制化注意力掩码实现单次并行重计算,在完全复现原有依赖路径的前提下,将内存复杂度由 O(Lt​⋅Ls​) 降至 O(Lt​),同时支持 KV 缓存梯度回传,兼顾效率与生成质量。
  • SolarisEngine 多人数据引擎:为解决现有采集框架不支持多视角同步的问题,团队设计了基于 Mineflayer 控制器与官方 Minecraft 客户端解耦的相机采集架构,结合服务器端插件实现毫秒级状态广播,并采用 Docker 容器集群进行分布式部署与故障自愈,最终构建出含精确动作标注的 1260 万帧多人协作数据集。

Solaris 的项目资源

Solaris 的典型应用方向

  • 具身智能的仿真训练平台:作为可扩展、高可控的多智能体世界模拟器,为机器人导航、游戏 AI 决策等任务提供低成本、高安全性的合成训练环境,支撑策略学习、推理时规划及鲁棒性评估。
  • 多智能体协同行为研究:支持构建共建、共战、分工协作等多样化多人任务场景,用于探索 AI 代理间的隐式通信、角色分配、共识形成等社会性智能涌现机制。
  • 视觉-语言-动作联合建模基础设施:可批量产出大规模、多视角、强对齐的视频-动作-文本三元组数据,填补真实人类多人交互数据稀缺的空白,服务于 VLA(Vision-Language-Action)模型的预训练与领域适配。
  • 三维空间理解能力评测基准:作为可编程、可干预的可控测试沙盒,可用于定量评估模型在视角一致性维持、物体持久性建模、空间记忆与推理等关键三维认知能力上的表现水平。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

相关专题

更多
Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

0

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

0

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

0

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

0

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

0

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

0

2026.10.22

Golangci-lint安装与入门教程
Golangci-lint安装与入门教程

本专题讲解Golangci-lint的安装、初始化、基础命令和首次代码检查,覆盖本地环境、Docker及多平台用法,帮助Go开发者快速上手。

0

2026.10.22

PHP2Shell高危漏洞修复教程
PHP2Shell高危漏洞修复教程

PHP2Shell漏洞是什么,哪些PHP版本和运行环境会受到影响,服务器应该如何检测与修复?本专题提供版本自查脚本、Linux与Docker升级命令、PHP-FPM和Apache排查步骤,以及修复验证、临时缓解和应急响应方案。

40

2026.10.22

剧云人物设定与关系管理教程
剧云人物设定与关系管理教程

本专题介绍剧云人物设定与关系管理,讲解角色小传、性格职业、人物目标、背景资料和关系网络的创建及维护方法。

0

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn