浏览器内置 AI:Prompt API 与端侧模型能做什么
Prompt API 在 Chrome 148 起稳定,配合超小型 Gemma 模型与翻译、语言检测 API,一部分 AI 能力可以不花 token 在设备本地跑。
「内置 AI」指浏览器自带、可在本地调用的 AI 能力,站点不必自建推理服务,也不必把用户输入送到自己的服务器。Chrome 148 起 Prompt API 进入稳定状态,支持多模态输入与结构化输出;同时还有面向特定任务的小型模型与翻译、语言检测 API。这条线对 Web 应用形态的影响,可能比某个聊天功能更长远。
为什么值得在浏览器里跑
最直接的是成本与隐私:按查询计费的服务在高频、低价值的任务上不划算,而涉及用户原文的场景,能不出设备就更有说服力。官方举的例子包括在本地生成个性化摘要,避免服务端开销并支持不限次数的调用。浏览器负责管理与共享优化过的模型,站点不必各自下载一份。
适合做的事
- 对页面内已有内容做摘要、改写、分类、提取要点;
- 表单与输入的辅助:纠错、语气调整、字段建议;
- 翻译、语言检测等边界清晰的小任务;
- 结构化输出:把非结构化文本整理成可校验的 JSON 供后续逻辑使用。
不适合做的事
端侧小模型的定位是「任务专用」,不是通用大模型。开放域问答、长链推理、需要最新事实或专业判断的任务,仍应交给合适的服务或人工。把它当成浏览器提供的一个原语,用来做那些「用规则写很啰嗦、用大模型又太贵」的小环节,效果最好。
工程上要准备的几件事
- 能力检测:先判断 API 与模型是否可用,不可用走原有逻辑或降级;
- 模型下载与就绪状态:首次使用可能需要准备,界面要有明确反馈;
- 输出校验:结构化输出也要按 schema 复核,不能直接使用;
- 回退路径:把 AI 结果当成增强,核心功能不依赖它。
和云端助手不是替代关系
Gemini in Chrome 面向用户,跨标签、连服务、能执行多步;内置 AI 面向开发者,嵌在站点自己的功能里。前者是浏览器给的助手,后者是站点借浏览器能力做出来的功能。两者共享一部分底层思路(本地处理、减少外发),但权限边界和使用场景完全不同。
现实预期
可用范围受版本、平台、硬件与地区影响,并非所有设备都能跑。看到演示时先确认本机条件,再谈落地。对内容站来说,当前更务实的用法仍是:把正文写清楚、结构写规范,让任何助手都容易理解——这比追某个 API 的早期版本更耐用。
内置 AI 的价值在于把小而高频的任务留在设备本地;能力检测、降级路径和输出校验,一个都不能少。
