
【导语pi - computer - use 这一工具允许 AI 代理在 macOS 和 Windows 系统上使用桌面应用为代理操作桌面软件提供了可控方式。本文将详细介绍其功能、安装、权限设置等方面内容。】AI 代理桌面应用操控新工具pi - computer - use 可让 AI 代理在 macOS 和 Windows 系统上使用桌面应用其中 macOS 辅助工具要求系统版本为 macOS 14 或更高。代理能查看应用窗口识别其中的按钮和文本还可执行点击、输入、滚动以及等待界面变化等操作。当需使用普通桌面应用而非 API、终端命令或文件时该工具就发挥作用了。软件包功能与局限作为 Pi 扩展安装后 Pi 代理能获得一系列工具如查找已打开的应用和窗口、观察窗口内可见内容、在可见界面中搜索文本等为代理操作桌面软件提供了可控途径。不过pi - computer - use 不能替代应用 API 或 MCP 服务器。若应用有可靠的直接集成方式应优先使用只有当唯一可用的交互方式是屏幕上的应用界面时其计算机使用功能才最为有用。安装与权限设置要点安装 pi - computer - use 需先安装 Pi然后执行 npm install injaneity/pi - computer - use最后启动 Pi 并完成平台设置流程。在权限设置方面macOS 需要授予 /Applications/pi - computer - use.app 相应权限包括辅助功能、屏幕录制等Windows 则使用交互式桌面会话支持使用平台辅助功能 API不使用 macOS 辅助应用或 TCC 权限流程。在 Pi 中使用 /computer - use 命令可查看当前的配置信息及其来源。开发状态与文档支持该架构以不可变、状态作用域的观察为核心桌面界面和 CDP 页面形成一个多根森林渐进式大纲查询会被缓存实时工作按物理资源排序以便独立的根可以并行运行。act_ui 能接受一个或多个意图步骤还能完成验证操作、恢复状态等功能。此外项目提供了丰富的文档内容涵盖用法、架构、配置、开发、故障排除、贡献等方面并且采用 MIT 许可证。编辑观点pi - computer - use 为 AI 代理操作桌面应用提供了新途径虽有一定局限但功能实用其开发状态和文档支持也较为完善有望在相关领域发挥积极作用。