ChromeAI – 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型|门槛颇高

最新版本的 Chrome Dev 集成了大语言模型 Gemini Nano,可以让用户无限量、离线使用(需额外下载1.2GB 模型文件)。但目前只能通过控制台使用,非常的麻烦。于是有同学就做了一个网页,可以直接调用模型,像普通 AI 一样使用 Chrome Dev 内置的模型,但门槛颇高。@Appinn

ChromeAI - 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型|门槛颇高

如何内置 Gemini Nano

Gemini Nano 曾经是 Google 想要内置到手机中的模型,现在先进入了 Chrome,但依旧需要 1.2GB 的模型文件。

步骤(门槛颇高)

缺一不可:

  1. 需要 Chrome (Dev / Canary) 127 以上版本
  2. 设置 Chrome 语言为 English US
  3. 开启(Enabled) chrome://flags/#prompt-api-for-gemini-nanoSelect
  4. 开启(Enabled BypassPrefRequirement) chrome://flags/#optimization-guide-on-device
  5. 进入 chrome://components ‘Check for Update’ on Optimization Guide On Device Model to download the model. If you don’t see Optimization Guide, ensure you have set the flags correctly above, relaunch your browser, and refresh the page.
ChromeAI - 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型|门槛颇高 1

使用(两种方式)

然后,就可以直接用了。

注意由于是本地模型,所有数据都不上传的。但是,这个网页本身还没离线,需要上网。

ChromeAI

来自发现频道,开发者 @vine_chen 自荐,直接打开网页就能用:

ChromeAI - 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型|门槛颇高 2

Chrome AI 扩展

在研究的时候,意外搜到了这个扩展,用起来也挺不错的,可以方便的在浏览器侧边栏打开对话框:

ChromeAI - 无限量、离线使用的 Chrome Dev 内置 Gemini Nano 大语言模型|门槛颇高 3

这个扩展可以做到关闭 Wi-Fi 之后可用。

你们就看着选一个用吧。

注意模型略大,下载门槛较高。


原文:https://www.appinn.com/chrome-ai-for-gemini-nano/

2 条留言

  1. zcoriander 2024/07/01 回复

写留言