更新日志
v1.6 - CDP 连接、双指缩放与多模型增强
v1.6 版本新增了 CDP 浏览器连接模式、跨平台双指缩放手势、GPT-5/GPT-5.4 模型支持,同时对元素定位、报告系统、Chrome 扩展等进行了多项改进。
新增 CDP 浏览器连接模式
支持通过 CDP (Chrome DevTools Protocol) 直接连接已有的浏览器实例进行自动化,无需由 Midscene 启动浏览器,适用于需要复用已有浏览器会话的场景。详见:Skills - Browser Automation、YAML 脚本运行器 - CDP 连接模式
新增跨平台双指缩放手势
在 Android、iOS、鸿蒙等移动端平台支持 pinch/zoom 双指缩放操作,可用于地图缩放、图片预览等场景。详见:API 文档 - aiPinch
新增 GPT-5 / GPT-5.4 与 Codex app-server provider 支持
适配了 GPT-5 和 GPT-5.4 模型,同时新增 Codex app-server provider,开发者可以使用最新的 OpenAI 模型进行视觉理解与自动化操作。详见:模型配置、模型策略
新增模型请求 extraBody 参数
新增 extraBody 配置,开发者可以在模型 API 请求中传递额外的自定义参数,满足特定模型或部署环境的需求。详见高阶配置中的 MIDSCENE_MODEL_EXTRA_BODY_JSON 环境变量
deepThink 更名为 deepLocate
元素定位相关 API 中的 deepThink 参数正式更名为 deepLocate,更准确地表达其"深度定位"的含义。原有 deepThink 参数仍可使用,但建议逐步迁移。详见:API 文档
Skill CLI 与平台工具增强
- Skill CLI 自定义接口:Skill CLI 支持自定义接口,开发者可以更灵活地扩展 Skill 能力。详见:Skills 文档
- 统一 MCP 工具导出:所有平台 包(Web、Android、iOS 等)统一导出 MidsceneTools,在 MCP 场景下集成更简单。详见:MCP 服务
- iOS 终止指定应用:iOS 端支持通过 bundleId 终止指定应用,方便测试流程中重置应用状态。详见:iOS API
- CLI 版本查看:CLI 新增版本查看功能,健康检查中显示各包版本信息,便于排查环境问题
任务取消支持
aiAct 新增 AbortSignal 支持,开发者可以在任务执行过程中随时取消操作,避免长时间等待。详见:API 文档 - aiAct
元素定位优化
优化了 deepLocate 的定位流程,在复杂界面下的定位效率和准确率均有提升。
报告与回放改进
- 大型报告加载更快:报告中的截图支持懒加载,包含大量步骤的报告打开速度显著提升
- 移动端报告更直观:报告回放时展示设备外壳,更直观地还原移动端操作场景
- 时序信息更精确:报告中 AI 调用和操作执行的时序信息精度更高,便于定位性能瓶颈
稳定性改进
- AI 规划偶发解析失败时自动重试一次,减少因网络抖动导致的测试 中断
- 设备健康检查新增监控器检测,帮助排查无头环境下的显示问题
Chrome 扩展改进
- 修复录制停止后生成脚本时的崩溃问题
- 修复长时间录制时因消息序列化性能问题导致的卡顿
- Bridge 模式新增启停控制按钮,修复确认操作时连接断开的问题
问题修复
- 修复 MCP 服务在某些情况下变成僵尸进程占用 100% CPU 的问题
- 修复页面跳转过程中截图失败未重试的问题
- 修复 Android 端部分场景下文字输入丢失的问题
- 修复
aiNumber在某些格式下提取结果不正确的问题 - 修复
aiScroll不传参数时的调用异常 - 修复使用 AutoGLM 模型时返回/主页操作在不同平台上的兼容问题
- 修复报告中模型名称包含
/时显示异常的问题 - 修复报告回放结束后播放器未正确重置的问题
- 修复 Playground 中 Deep Think 开关未正确读取环境变量配置的问题
- 修复高分辨率设备截图中光标大小显示不正确的问题
- 修复 Linux 环境下 Chrome 启动路径解析失败的问题
- 修复页面包含 iframe 时元素定位不准确的问题
- 修复鸿蒙端在特定渲染分辨率下屏幕信息解析错误的问题
- 修复 Playground 中取消任务后设备方向显示不正确的问题
v1.5 - HarmonyOS(鸿蒙)自动化支持
v1.5 版本新增了 HarmonyOS 自动化 支持,新增 Qwen3.5 和 doubao-seed 2.0 模型支持,同时对桌面自动化、报告系统、Chrome 扩展等进行了多项改进。
新增 HarmonyOS(鸿蒙)自动化支持
新增 @midscene/harmony 包,正式支持 HarmonyOS 平台自动化。Midscene 的自动化能力从 Web、Android、iOS、桌面进一步扩展到鸿蒙生态。
新增 Qwen3.5 与 doubao-seed 2.0 模型支持
适配了通义千问 Qwen3.5 和豆包 doubao-seed 2.0 模型,开发者可以使用更新的模型获得更好的视觉理解效果。
新增通用模型推理配置
新增 MIDSCENE_MODEL_REASONING_EFFORT 环境变量,作为通用的模型推理强度配置参数,方便开发者在不同模型间统一控制推理行为。
桌面自动化改进
- Xvfb 虚拟显示器支持:在无头 Linux 环境下支持 Xvfb 虚拟显示器,适用于 CI/CD 服务器等无 GUI 环境的桌面自动化
- 连接健康检查:桌面自动化连接时新增健康检查,提升连接可靠性
- macOS 输入优化:macOS 上所有文本输入改用剪贴板方式,避免输入法(IME)导致的输入异常
- 鼠标控制失败检测:自动检测鼠标控制失败并提示管理员权限需求
- 停止执行优化:在停止执行时通过检查 destroyed 状态及时中断截图操作,避免无效等待
截图与显示优化
- 自定义截图缩放:支持自定义截图缩放比例(screenshot shrink),在保证识别准确性的前提下优化性能
- Android 缩放比解耦:将 scalingRatio 从 size() 方法中解耦,提升灵活性
报告系统改进
- 时序信息更详细:报告中的时序信息粒度更细,帮助开发者更精确地分析性能瓶颈
- 合并报告支持目录模式:
mergeReports支持目录模式的报告文件
Chrome 扩展改进
- 新增始终拒绝选项:Chrome 扩展新增"始终拒绝"选项,并修复确认弹窗的竞态条件
- CLI 结束后关闭 Bridge 服务:CLI 命令完成后自动关闭 Bridge 服务器,避免残留进程
问题修复
- 修复表单渲染中 input mode schema 的
z.preprocess处理问题 - 修复 Android 滑动参数传递问题
- 修复 Web 端尺寸计算问题
- 修复
BASE_URL_FIX_SCRIPT闭合标签未被 HTML 解析器识别的问题 - 修复 PlaywrightAgent/PuppeteerAgent 构造函数中 page 为 undefined 的保护处理
v1.4 - Skills:让 AI 助手直接操控你的设备
v1.4 版本推出了 Midscene Skills —— 一套可安装到 Claude Code、OpenClaw 等 AI 助手中的技能包,让 AI 助手直接操控浏览器、桌面、Android 和 iOS 设备。同时本版本还包含独立桌面 MCP 服务、各平台 CLI 独立入口、AI 规划增强等多项改进。
Midscene Skills —— AI 助手的设备操控技能包
Midscene Skills 是一套可安装到 Claude Code、OpenClaw 等 AI 助手中的技能包。安装后,AI 助手可以通过自然语言直接操控浏览器、桌面、Android 和 iOS 设备。
各平台包(@midscene/android、@midscene/ios、@midscene/web 等)现在各自暴露了独立的 CLI 入口,Skills 正是基于此能力构建。
覆盖平台:
- 浏览器(Puppeteer 无头模式)
- Chrome Bridge(用户自己的桌面 Chrome)
- 桌面(macOS、Windows、Linux)
- Android(通过 ADB)
- iOS(通过 WebDriverAgent)
独立桌面自动化 MCP 包
新增 @midscene/computer-mcp 包,将 PC 桌面自动化能力以独立 MCP 服务的形式提供。开发者可以直接在 Cursor、Trae 等支持 MCP 的工具中使用桌面自动化能力,无需额外集成。
详见文档:PC 桌面自动化
Chrome 扩展支持 MCP 后台连接
Chrome 扩展新增后台 Bridge 模式的 MCP 连接支持,可以将桌面浏览器作为 MCP 工具暴露给 AI 助手,进一步打通 MCP 生态。
AI 规划能力增强
aiAct新增deepLocate选项:在执行操作时启用深度定位,提升复杂界面下的元素定位准确率- Swipe 与 DragAndDrop 语义区分:模型现在能更精确地区分滑动和拖放操作,减少手势规划错误
- LLM 规划增加页面导航限制:防止模型在规划时生成不合理的页面跳转操作,提升任务执行稳定性
- macOS 键盘输入改用 AppleScript:提升桌面自动化中键盘输入的稳定性和兼容性
- 鼠标移动操作:新增 cursor move 动作支持
YAML 脚本与文件上传增强
- YAML
aiTap支持fileChooserAccept:在 YAML 脚本中可直接处理文件上传对话框 - 支持目录上传:Web 端支持
webkitdirectory类型的文件夹选择上传
Chrome 扩展 Bridge 模式缓存
Bridge 模式下新增缓存支持,复用已有的 AI 规划结果,减少重复调用,提升调试效率。
Android 改进
- 优化文字输入逻辑,提升输入稳定性
iOS 改进
- Playground 实时画面流:iOS Playground 新增实时画面展示,调试时可实时预览设备屏幕。
v1.3 - PC 桌面自动化支持
v1.3 版本带来了全新的 PC 桌面自动化能力,大幅优化了 Android 截图性能,并对报告系统和稳定性进行了多项改进。
全新 PC 桌面自动化支持
Midscene 现在支持 PC 桌面自动化,在 Windows、macOS 和 Linux 上驱动原生键盘和鼠标。无论是 Electron、Qt、WPF 还是原生桌面应用,都可以通过视觉模型方案进行自动化。
核心能力:
- 鼠标操作:单击、双击、右键、移动鼠标、拖放
- 键盘输入:文本输入、组合键(Cmd/Ctrl/Alt/Shift)
- 屏幕截图:捕获任意显示器的截图
- 多显示器支持:同时操作多个显示器
使用方式:
- 支持使用 Computer Playground 零代码试用
- 支持 JavaScript SDK 脚本编写
- 支持 YAML 格式的自动化脚本和命令行工具
- 支持 HTML 报告回放所有操作路径
详见文档:PC 桌面自动化
Android 截图性能大幅提升
开启 Scrcpy 截图模式后,截图耗时从原来的 500–2000ms 降低到 100–200ms,显著提升 Android 自动化的响应速度,特别适用于远程设备调试和高帧率场景。
详见文档:Scrcpy 截图模式
深度思考模式增强
aiAct 的深度思考(deepThink)模式现在不仅用于元素定位,还能优化整体任务规划,在复杂表单、多步骤流程等场景下获得更好的执行效果。
报告体验优化
- 时间线折叠:新增折叠切换按钮,方便查看长任务流程
- 时间单位改为秒:更易读
- 步骤同步高亮:侧边栏步骤高亮与播放器回放实时同步
- 内存占用降低:优化报告生成机制,有效降低运行时内存占用
移动端改进
Android
- 特殊字符和 Unicode 输入更稳定
- Launch 操作时应用包名匹配更 宽松(忽略大小写和空格)
- 部分设备截图异常时自动重试
iOS
- Bundle ID 匹配更宽松(忽略大小写和空格)
Web 自动化改进
- 修复 Puppeteer 在非活动标签页截图时可能挂起的问题
- 修复 headed 模式下窗口尺寸不准确的问题
shareBrowserContext模式下支持保留 localStorage 和 sessionStorage- Playwright 多项目配置下,报告中自动区分不同浏览器的测试用例
- 修复 YAML 脚本中 input 操作的
typeOnly模式不生效的问题
其他改进
- 图片处理性能提升
- SVG 图标缓存问题修复
- Playground 模型配置错误现在会显示具体原因
v1.2 - 智谱 AI 开源模型支持与文件上传支持
v1.2 版本中我们加入了对智谱 AI 开源模型的支持,新增了文件上传功能,修复了多个影响使用体验的问题,让自动化测试更加可靠。
新增智谱 AI 开源模型支持
智谱 GLM-V 视觉模型
- 智谱 GLM-V 系列模型是智谱 AI 推出的开源视觉模型,有多种参数的版本,支持云端部署和本地部署。
- 详见:GLM-V 模型配置
智谱 AutoGLM 移动端自动化模型
- 智谱 AutoGLM 是智谱 AI 推出的开源移动端自动化模型,能够根据自然语言指令理解手机屏幕内容,并结合智能规划能力生成操作流程完成用户需求。
- 详见:AutoGLM 模型配置
文件上传功能上线
在 Web 自动化场景中,文件上传是一个常见需求。v1.2 版本为 web 端新增了文件上传能力,支持通过自然语言操作文件输入框,让表单自动化更加完整。
详见:aiTap 文件上传
缓存机制优化
修复了缓存在 DOM 变更后未能及时更新的问题。当页面 DOM 发生变化导致缓存验证失败时,系统现在会自动更新缓存,避免因使用过期缓存而导致的操作失败,提升自动化脚本的稳定性。
报告与 Playground 改进
深度思考标记优化
- 修复了
.aiAct()方法使用深度思考(deepThink)时,报告中未正确显示标记的问题。现在你可以在报告中清晰地看到哪些操作使用了深度思考能力 - 优化了报告中 summary 行的样式,提升整体可读性
Playground 稳定性提升
- 修复了 Playground 在使用 agentFactory 模式时,未在
getActionSpace中正确创建 agent 实例的问题,确保各种使用模式下的正常运行 - 优化了 Playground 输出展示,防止超长的 reportHTML 内容影响界面显示
模型配置更新
针对通义千问(Qwen)模型的深度思考功能,更新了相关配置参数,确保与模型最新版本的兼容性。
v1.1 - aiAct深度思考与可扩展的 MCP SDK
v1.1 版本在模型规划能力与 MCP 扩展性上实现优化,让复杂场景的自动化更稳定,同时为企业级 MCP 服务部署提供更灵活的方案。
aiAct 可开启深度思考能力(deepThink)
在 aiAct 时开启深度思考能力后,模型会更加深入地理解用户意图、优化规划结果,适用于复杂表单、多步骤流程等场景。它会带来更高的准确率,但也会增加规划耗时。
目前已支持阿里云的 Qwen3-vl 与火山 引擎的 Doubao-vision 模型,具体请参考 模型策略。
示例用法:
MCP 扩展与 SDK 开放
开发者可以使用 Midscene 暴露的 MCP SDK 灵活部署自己的公共 MCP 服务。此能力适用于任意平台的 Agent 实例。
典型应用场景:
- 在企业内网中运行 MCP 控制私有设备池
- 将 Midscene 能力封装为内部微服务供多团队使用
- 扩展自定义自动化工具链
详见文档:MCP 服务
Chrome 扩展优化
- 修复录制期间的潜在事件丢失问题,提升录制稳定性
- 优化
describeElement的坐标传递,提高元素描述准确性
CLI 与配置增强
- 文件参数支持: 修复 CLI 在同时指定
--config时未正确处理--files参数的问题,现在可灵活组合使用 - 动态配置: 修复 Playground 中环境变量
MIDSCENE_REPLANNING_CYCLE_LIMIT未正确读取的问题
iOS Agent兼容性提升
- 优化
getWindowSize方法,在新版本 API 不可用时自动回退到 legacy endpoint,提升对 WebDriverAgent 版本的兼容性
报告与 Playground 改进
- 修复报告在访问屏幕属性前未正确初始化的问题
- 修复 Playground 中 stop 函数的异常行为
- 优化视频导出时的错误处理,避免 frame cancel 导致的崩溃
感谢贡献者:@FriedRiceNoodles
v1.0 - Midscene v1.0 正式发布!
Midscene v1.0 已发布!欢迎体验,看看它如何帮助你自动化你的工作流程。
查看我们全新的案例展示
在 Web 浏览器中自主注册 Github 表单,通过所有字段校验:
此外还有这些实战案例:
- iOS 自动化 - 美团下单咖啡
- iOS 自动化 - Twitter 自动点赞 @midscene_ai 首条推文
- Android 自动化 - 懂车帝查看小米 SU7 参数
- Android 自动化 - Booking 预订圣诞酒店
- MCP 集成 - Midscene MCP 操作界面发布 prepatch 版本
有社区开发者成功基于 Midscene 与任意界面集成的特性,扩展了机械臂 + 视觉模型 + 语音模型等模块,运用于车机大屏测试场景中,请看下方视频。
🚀 纯视觉路线
从 V1.0 开始,Midscene 全面转向视觉理解方案,提供更稳定可靠的 UI 自动化能力。
视觉模型有以下特点:
- 效果稳定:业界领先的视觉模型(如 Doubao Seed 1.6、Qwen3-VL 等)表现足够稳定,已经可以满足大多数业务需求
- UI 操作规划:视觉模型通常具备较强的 UI 操作规划能力,能够完成不少复杂的任务流程
- 适用于任意系统:自动化框架不再依赖 UI 渲染的技术栈。无论是 Android、iOS、桌面应用,还是浏览器中的
<canvas>,只要能获取截图,Midscene 即可完成交互操作 - 易于编写:抛弃各类 selector 和 DOM 之后,开发者与模型的“磨合”会变得更简单,不熟悉渲染技术的新人也能很快上手
- token 量显著下降:在去除 DOM 提取之后,视觉方案的 token 使用量可以减少 80%,成本更低,且本地运行速度也变得更快
- 有开源模型解决方案:开源模型表现渐佳,开发者开始有机会进行私有化部署模型,如 Qwen3-VL 提供的 8B、30B 等版本在不少项目中都有着不错的效果
详情请阅读我们更新版的模型策略
🚀 多模型组合,为复杂任务带来更好效果
除了默认的交互场景,Midscene 还定义了 Planning(规划)和 Insight(洞察)两种意图,开发者可以按需为它们启用独立的模型。例如,用 GPT 模型做规划,同时使用默认的 Doubao 模型做元素定位。
多模型组合让开发者可以按需提升复杂需求的处理能力。
🚀 运行时架构优化
针对 Midscene 的运行时表现,我们进行了以下优化:
- 减少对设备信息接口的调用,在确保安全的情况下复用部分上下文信息,提升运行时性能,让大多数的时间消耗集中在模型端
- 优化 Web 及移动端环境下的 Action Space 组合,向模型开放更合理、更清晰的工具集
🚀 回放报告优化
回放报告是 Midscene 开发者非常依赖的一个特性,它能有效提升脚本的调试效率。 在 v1.0 中,我们更新了回放报告:
- 参数视图:标记出交互参数的位置信息,合并截图信息,快速识别模型的规划结果
- 样式调整:支持以深色模式展示报告,更美观
- Token 消耗的展示:支持按模型汇总 Token 消耗量,分析不同场景的成本情况
🚀 MCP 架构重构
我们重新定义了 Midscene MCP 服务的定位。Midscene MCP 的职责是围绕着视觉驱动的 UI 操作展开,将 iOS / Android / Web 设备 Action Space 中的每个 Action 操作暴露为 MCP 工具,也就是提供各类“原子操作”。
通过这种形式,开发者可以更专注于构建自己的高阶 Agent,而无需关心底层 UI 操作的实现细节,并且时刻获得满意的成功率。
详情请阅读 MCP 文档
🚀 移动端能力增强
iOS 改进
- 新增 WebDriverAgent 5.x-7.x 全版本兼容
- 新增 WebDriver Clear API 支持,解决动态输入框问题
- 提升设备兼容性
Android 改进
- 新增截图轮询回退机制,提升远程设备稳定性
- 新增屏幕方向自动适配(displayId 截图)
- 新增 YAML 脚本
runAdbShell支持
跨平台
- 在 Agent 实例上暴露系统操作接口,包括 Home、Back、RecentApp 等
🚧 API 变更
方法重命名(向后兼容)
- 改名
aiAction()→aiAct()(旧方法保留,有弃用警告) - 改名
logScreenshot()→recordToReport()

