为什么像 Perplexity 的 Comet 这样的 AI 浏览器可能让网络更危险
(SeaPRwire) – 欢迎回到《In the Loop》,这是TIME关于AI的全新每周两次的通讯。如果您正在浏览器中阅读此文,何不订阅,让下一期直接发送到您的收件箱?
须知:AI浏览器的危险
上周,Perplexity宣布其AI驱动的浏览器Comet将向所有用户免费开放,此前该服务需要付费订阅。Comet是一种新型浏览器,内嵌AI聊天机器人,可以代表您浏览网页,并执行自主操作,如购物、发送电子邮件或创建日历事件。
但只有一个问题。根据网络安全公司LayerX的最新研究,直到最近,Comet的内部AI仍可能被恶意链接劫持,导致浏览器从Gmail等连接服务中窃取个人信息并发送给模拟攻击者。这表明,AI驱动的浏览器在提高用户生产力的同时,也可能引入新的漏洞。
攻击——LayerX发现了一个名为“CometJacking”的漏洞,其中包含对浏览器AI的恶意提示隐藏在URL中。当用户点击该链接时,浏览器会将恶意提示误认为是用户指令,并开始执行。在LayerX的示例中,模拟攻击者成功让Comet从用户的电子邮件和日历账户中提取数据。尽管Comet有防数据窃取的安全措施,但攻击者通过指示AI将窃取的信息用base64编码(本质上是将其打乱,使其看起来像无害文本),然后发送到其控制下的远程服务器,从而绕过了这些措施。
未来趋势的迹象——如今,Google Chrome是迄今为止最受欢迎的浏览器。但一些人认为,一场新的“浏览器大战”可能很快就会到来,由Perplexity的Comet等新进入者推动。(OpenAI也被认为正在开发自己的AI驱动浏览器,尽管尚未发布。)但LayerX的CEO Or Eshed表示,随着浏览器开发者争相添加AI功能,他们也可能增加新型漏洞。Eshed说,我们可能即将进入一个“浏览变得更危险的世界”。“我们将看到几乎已经绝迹的旧式攻击卷土重来,甚至是我们刚刚发现的这类新型攻击。”
Perplexity的回应——LayerX在其博客文章中写道,当LayerX上个月告知Perplexity该漏洞时,该公司“回复称未能识别出任何安全影响”。但在给TIME的一份声明中,Perplexity的一位发言人表示,LayerX的漏洞报告措辞不当,并且没有回应澄清请求,Perplexity“随后独立发现了该问题并进行了修补”。该发言人表示,该漏洞从未被利用,并补充道:“我们感谢参与我们蓬勃发展的漏洞赏金计划的安全社区,我们正在努力确保未来不会再发生此类误解。”
如果您有一分钟时间,请花点时间填写我们的快速问卷,帮助我们更好地了解您以及您最感兴趣的AI话题。
人物聚焦:Lisa Su,AMD CEO
周一,芯片制造商Advanced Micro Devices (AMD)宣布已与OpenAI达成一项数十亿美元的协议,ChatGPT的制造商将在未来几年内采购其最新AI芯片,总计6吉瓦的算力——这相当于约400万户U.S.家庭的耗电量。这仅仅是OpenAI的最新一项巨额交易,上个月它还与Nvidia达成了一项1000亿美元的协议,因为OpenAI正在寻求训练和运行其庞大AI模型所需的计算能力——包括上周发布的。
当我去年采访Lisa Su时,她正忙着将公司转向开发新型AI加速芯片。她的努力似乎已经得到了回报。在更广泛的半导体行业中,AMD仍远落后于Nvidia,但与OpenAI的交易是对AMD芯片适用于顶级AI工作负载的信任票。这也是OpenAI正在寻求减少对Nvidia依赖的又一个迹象,尽管它同时也在拉近与Jensen Huang公司的关系。
OpenAI和AMD没有披露这笔交易的具体金额,但他们表示,这笔交易赋予OpenAI收购该公司高达10%股份的权利。受此消息影响,AMD股价飙升约25%。
AI在行动
在推出其视频生成应用Sora一周左右后,OpenAI允许用户有更多选项来限制其肖像在视频中出现的方式。此前,用户可以选择允许或不允许其肖像(在OpenAI的说法中称为“客串”)出现在Sora视频中。现在,用户可以给出诸如“不要把我放在涉及政治评论的视频中”或“不要让我说这个词”等指示,OpenAI的Sora负责人Bill Peebles表示。
我们在读什么
Breakneck,作者:Dan Wang
这次不是文章,而是一本非常值得一读的书,它一直在流传,讲述了中国不可阻挡的崛起。Dan Wang的主要论点是,中国是一个工程国家,不惜一切代价专注于建设,而U.S.则是一个律师型社会,在那里,阻止建设比进行建设更容易。正如Wang在引人入胜的细节中阐述的那样,结果是中国现在拥有闪亮的公共基础设施和强大的制造业经济,而U.S.几十年来没有建造任何重大的公共工程,并且正在遗忘其制造业技术。Breakneck对AI提出了一个发人深省的问题,随着U.S.经济加倍投入这项技术:如果丰富的数字智能进入一个已经忘记如何应用它的经济体,那它有什么用呢?
本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。
分类: 头条新闻,日常新闻
SeaPRwire为公司和机构提供全球新闻稿发布,覆盖超过6,500个媒体库、86,000名编辑和记者,以及350万以上终端桌面和手机App。SeaPRwire支持英、日、德、韩、法、俄、印尼、马来、越南、中文等多种语言新闻稿发布。