发布日期:2023-12-30 14:10 点击次数:111
GPT-4V 学会自动主管电脑比特派App,这一天终于如故到来了。
只需要给 GPT-4V 接入鼠标和键盘,它就能阐明浏览器界面上网:
以致还能快速摸了了“播放音乐”的播放器网站和按钮,给我方来一段 music:
是不是有点细念念极恐了?
这是一个 MIT 本科生小哥整出来的新活,名叫 GPT-4V-Act。
只需要几个粗浅的器具,GPT-4V 就能学会放荡你的键盘和鼠标,用浏览器上网发帖、买东西以致是玩游戏。
若是用到的器具出 bug 了,GPT-4V 以致还能领会到、并试图科罚它。
来望望这是奈何作念到的比特派App。
GPT-4V-Act,实质上是一个基于 Web 浏览器的 AI 多模态助手(Chromium Copilot)。
它不错像东谈主类相通用鼠标、键盘和屏幕“张望”网页界面,并通过网页中的交互按键进行下一步操作。
要达成这种成果,除了 GPT-4V 除外,还用到了三个器具。
一个是 UI 界面,不错让 GPT-4V“看见”网页截图,也能让用户与 GPT-4V 发生交互。
这么,GPT-4V 就能将每一步运转化念路齐通过对话框的面孔响应出来,用户来决定是否要继续让它操作。
另一个是 Set-of-Mark Prompting(SoM)器具,让 GPT-4V 学会交互的一款器具。
这个器具由微软发明比特派App,倡导是更好地对 GPT-4V 进行请示词工程。
比拟让 GPT-4V 径直“看图言语”,这个器具不错将图片要津细节拆分红不同的部分,并进行编号,让 GPT-4V 有的放矢:
关于网页端亦然如斯,Set-of-Mark Prompting 用肖似的格式让 GPT-4V 知谈从网页浏览器的哪个部分找谜底,并进行交互。
临了,还需要用到一个自动标注器(JS DOM auto-labeler),不错将网页端所有这个词能交互的按键标注出来,让 GPT-4V 决定要按哪个。
一套经由下来,GPT-4V 不仅能准确判断图片上的哪些内容相宜需求,还能准确找到交互按键,并学会“自动上网”。
这是个大技俩,当今还只达成了部分功能,包括点击、打字交互、自动标注等。
接下来,还有其他的一些功能要达成,举例试试 AI 打标器(当今网页端的交互如故通过通过 JS 接口得知那边能交互,不是 AI 识别的)、以及请示用户输入详备信息等。
此外比特派App,作家也提到,现阶段 GPT-4V-Act 用法上还有一些需要驻守的场所。
举例,GPT-4V-Act 可能会被网页掀开后狂风暴雨的弹窗小告白给“整懵了”,然后出现交互 bug。
又举例,当今这种玩法可能会违犯 OpenAI 的家具使用限定:
是以用的时刻也要低调少许(doge)
这个技俩在网上发出后,眩惑了不少东谈主的围不雅。
像是小哥用到的微软 Set-of-Mark Prompting 器具的作家,就发现了这个技俩:
还有网友提到,以致不错用来让 AI 我方读取考据码。
这个在 SoM 技俩中提到过,GPT-4V 是能奏效解读考据码的(是以以后可能还真不知谈是东谈主如故机器在上网
)。
与此同期,也有网友一经在遐想桌面流自动化(desktop automation)的操作了。
对此作家修起称:
不外当今 GPT-4V 如故要收费的,有莫得其他的达成才调?
比特派钱包推广作家也示意,当今还莫得,但确乎可能会尝试 Fuyu-8B 概况 LLaVAR 这么的开源模子。
免费的自动化桌面流 AI 助手,不错期待一波了。
参考连续:
本文来自微信公众号:量子位 (ID:QbitAI),作家:萧箫
告白声明:文内含有的对外跳转连续(包括不限于超连续、二维码、口令等面孔),用于传递更多信息比特派App,节俭甄选时辰,末端仅供参考,IT之家所有这个词著述均包含本声明。
声明:新浪网独家稿件,未经授权进犯转载。 -->