• 媒体品牌
    爱范儿
    关注明日产品的数字潮牌
    APPSO
    先进工具,先知先行,AIGC 的灵感指南
    董车会
    造车新时代,明日出行家
    玩物志
    探索城市新生活方式,做你的明日生活指南
  • 知晓云
  • 制糖工厂
    扫描小程序码,了解更多

看着这个 AI 奶奶把骗子耍得团团转,可把我高兴坏了

公司

11-18 10:39

你好,骗子,我是你的噩梦。

眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体,却是一个反诈 AI 高手。

与传统的反诈宣传不同,Daisy 不会苦口婆心地提醒你谨防上当受骗,而是从源头抓起,与骗子聊些家长里短的话题,不断消耗骗子的耐心。

天上不会掉馅饼,但骗子会给你扔一个诱饵。

打造 Daisy 的初衷在于,要用骗子的执着消耗骗子的时间,减少后者扔诱饵的机会,从而更好地保护其他潜在的受害者。

应了那句话,真正的反诈胜利不是打败骗子,而是让诈骗变得不划算。

与其教会一个人防骗,不如浪费一个骗子的时间

Daisy 的幕后开发者源自一家英国的电信公司 O2。

与 Vodafone、EE 和 Three 并列,O2 是英国四大电信运营商之一。O2 的数据显示,67% 的英国人表示担心成为诈骗的受害者,四分之一的人每周都会遭遇不同程度的诈骗。

面对诈骗分子的兴风作浪,O2 也很头疼。

于是他们想出了一个妙招,那就是打造出一个 AI 奶奶——Daisy,并让其主动出击,与骗子进行最高可达 40 分钟的通话。

方法有些舍己为人却又很实用,折腾完骗子,这样骗子就没有时间去诈骗别人了。

Daisy 的角色设定是一位慈祥的老奶奶,映照到现实生活,老年人也恰恰是诈骗分子最常针对的下手群体。

在官方发布的演示 demo 中,Daisy 跟电话那头的骗子唠唠家常,绘声绘色地分享她的爱好——编织毛衣,聊聊家里可爱的猫等等。

无它,通话时间拖得越久越好。

当涉及银行卡账号/密码等要紧信息时,这位 AI 奶奶还会凭空杜撰,主打一个句句有回应,事事没着落,睁着眼睛说瞎话。

O2 欺诈部门主管 Murray Mackenzie 杀人诛心地指出,Daisy 的作用在于,她彻底扭转了与骗子的博弈态势。「我们通过让他们一直在线上,巧妙地在他们的「游戏」中击败并超越了他们。」

实际上,在 Daisy 之前,也已经有不少类似的工具诞生。

据外媒 The Guardian 报道,澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子「聊天」的 AI 机器人 Apate。

当澳洲警方辨析并拦截了电信诈骗电话,他们就会转接给这位「受害者机器人」

创作者 Kafaar 也曾经透露过 Apate 的诞生故事。

他和两个孩子在外面野餐时,给诈骗来电者讲了一个笑话。之后,他因此受到启发,开始思考如何用无意义的闲聊来消耗骗子的时间,从而阻止他们去欺骗更多的人。

我当时想,这样做的目的是欺骗骗子,浪费他们的时间,这样他们就不能和其他人通话了。

Apate 还拥有几百个不同的身份,这些身份各自带有不同的口音,有不同的个性,有的假装懵懵懂懂,有的就跟老人家一样讲话爱重复,也有的脾气比较暴躁,整体比较多样,主要是为了不被骗子认出模式。

简言之,与其教会一个人防骗,不如浪费一个骗子的时间。

技术在升级,人类的判断力永远是最后的防线

AI 的飞速发展为 Daisy 的诞生提供了一个绝佳契机。

Daisy 基于定制训练的大型语言模型(LLM)构建,其工作原理与 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。

具体原理就是,AI 会转录来电者的声音,接着这位 AI 奶奶会根据预设的角色性格来调整回答的风格和内容,最后再次转换成 AI 奶奶的声线:

  1.  转录语音为文本:将捕捉到的声音转换成文本的过程称为「转录」。这样,Daisy 可以理解来电者所说的内容,并准备相应的回应。
  2. 生成回应:Daisy 使用一个定制的大型语言模型(LLM)来生成回应。这个模型不仅能够理解文本信息,还能够根据上下文和预设的角色性格层(character personality layer)生成合适的回答。
  3. 角色性格层:「角色性格层」是指 Daisy 在生成回应时,会根据预设的角色性格来调整回答的风格和内容,使其更符合角色设定,比如像一个祖母那样亲切和耐心。
  4. 文本转语音:生成的文本回应需要再次转换成语音,以便 Daisy 可以通过电话与来电者进行交流。这个过程也就是「文本转语音」(TTS),Daisy 使用一个定制的 AI 模型来完成这一步。

并且,在训练的过程中,Daisy 还得到了一位 YouTube 博主 Jim Browning 的帮助。

该博主在 YouTube 上拥有 400万+ 粉丝,是该平台最具影响力的反诈骗者之一。他的视频不仅展示诈骗手法,还会通过详细的技术分析和实例,来揭示了整个诈骗产业的运作方式。

毕竟最了解你的人永远是你的敌人,骗子也不例外。

而在 Daisy 与骗子对话的整个流程,由于从听取声音、转录文本、生成回应到文本转语音都是实时进行,所以几乎没有明显的延迟。

不过,Daisy 并不直接提供给 O2 的用户使用。

原因很简单,O2 担心用户利用它对诈骗者进行报复行动,在他们的内部研究表明,71% 的英国人有过想要报复那些诈骗了他们或他们亲人的骗子的念头。

据外媒 techspot 报道称,这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动,且无需人工干预。

但问题是,现在的骗子分两种,一种是不懂 AI 的,一种是懂 AI 的。

前不久,初创公司 Bland AI 在 X 平台宣称,在大模型的加持下,其产品将成为全球最快的对话式 AI,且可以在没有「幻觉」的情况进行沟通。

另外,Bland AI 机器人还拥有极其自然的生成式语音、以及多种语言切换。

除了非常擅长模仿人类真实对话的语调、停顿,在外媒 WIRED 的技术测试中,Bland AI 机器人甚至可以否认自己是 AI,并谎报其真实身份。

包括 APPSO 此前也利用 AI 定制生成了一些 0 成本但很真的数字双胞胎。

在 AI 技术的增益之下,这些工具都能轻而易举地被诈骗不法分子反过来欺骗我们。

吊诡的是,电话一头连着 AI 骗子,电话一头连着 AI Daisy,一个捧哏,一个逗哏,双方无限循环。懂行的人都知道,这里面的道行有多深。

而更早些时候,智能电话系统已经相当完善。

只需向服务商提出需求,后者就能快速搭建管理平台。用户通过简单的界面操作,就能设置话术、模板、通讯线路等参数,导入联系人信息后即可启动自动外呼功能。

为此,国内手机厂商也在这方面做出了不少努力。

比如,国内大多数手机系统提供智能识别和拦截伪基站的功能。并且,你还可以在来电拦截设置中,开启「在线识别陌生号码」功能,让系统更准确地识别并拦截骚扰电话。

诈骗本质上是一场筛选游戏,骗子不在乎失败 999 次,他们只需要成功 1 次。

被骗了,一切归零。

诚然,诈骗手法或许千变万化,但下面这条官方的反诈公式永不过时。

人物(陌生人)+沟通(各种通信工具,反正就是见不到面的)+要求(转账汇款,反正就是谈钱的)=诈骗。

在 AI 时代,骗子和反诈技术都在升级,而人类的判断力永远是最后的防线。

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中