写代码的 AI 可以改 App,却常常不知道改完后手机上究竟发生了什么:登录按钮能不能点、输入框是否可用、页面有没有按预期跳转,仍需要人或测试脚本确认。开源项目 agent-device 提供一个 CLI——也就是用文字命令操作软件的入口,让 Agent 用同一套指令打开、查看和操控 iOS、Android 等平台上的真实应用。
它最实用的一点,是不只把屏幕截图丢给 AI。agent-device 会读取语义化界面树——系统整理出的按钮、文本框及其名称和角色——再给可操作元素分配 @e1、@e2 这类引用。Agent 因而可以直接找到“登录按钮”并点击,减少依赖容易漂移的屏幕坐标,也节省模型输入。它还能按需保存截图、视频、日志、网络记录和崩溃信息,并把操作流程录成可重复执行的检查。
说白了,它不是替 Agent 思考,而是补上“眼睛、手和取证工具”:Agent 决定下一步做什么,CLI 负责在设备上稳定执行。这让移动端 UI 自动化从传统测试工具链进一步开放给编码 Agent,也为跨设备验证提供了统一接口。