看着这个 AI 奶奶把骗子耍得团团转,可把我高兴坏了
你好,骗子,我是你的噩梦。
眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体,却是一个反诈 AI 高手。
与传统的反诈宣传不同,Daisy 不会苦口婆心地提醒你谨防上当受骗,而是从源头抓起,与骗子聊些家长里短的话题,不断消耗骗子的耐心。
天上不会掉馅饼,但骗子会给你扔一个诱饵。
打造 Daisy 的初衷在于,要用骗子的执着消耗骗子的时间,减少后者扔诱饵的机会,从而更好地保护其他潜在的受害者。
应了那句话,真正的反诈胜利不是打败骗子,而是让诈骗变得不划算。
与其教会一个人防骗,不如浪费一个骗子的时间
Daisy 的幕后开发者源自一家英国的电信公司 O2。
与 Vodafone、EE 和 Three 并列,O2 是英国四大电信运营商之一。O2 的数据显示,67% 的英国人表示担心成为诈骗的受害者,四分之一的人每周都会遭遇不同程度的诈骗。
面对诈骗分子的兴风作浪,O2 也很头疼。
于是他们想出了一个妙招,那就是打造出一个 AI 奶奶——Daisy,并让其主动出击,与骗子进行最高可达 40 分钟的通话。
方法有些舍己为人却又很实用,折腾完骗子,这样骗子就没有时间去诈骗别人了。
Daisy 的角色设定是一位慈祥的老奶奶,映照到现实生活,老年人也恰恰是诈骗分子最常针对的下手群体。
在官方发布的演示 demo 中,Daisy 跟电话那头的骗子唠唠家常,绘声绘色地分享她的爱好——编织毛衣,聊聊家里可爱的猫等等。
无它,通话时间拖得越久越好。
当涉及银行卡账号/密码等要紧信息时,这位 AI 奶奶还会凭空杜撰,主打一个句句有回应,事事没着落,睁着眼睛说瞎话。
O2 欺诈部门主管 Murray Mackenzie 杀人诛心地指出,Daisy 的作用在于,她彻底扭转了与骗子的博弈态势。「我们通过让他们一直在线上,巧妙地在他们的「游戏」中击败并超越了他们。」
实际上,在 Daisy 之前,也已经有不少类似的工具诞生。
据外媒 The Guardian 报道,澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子「聊天」的 AI 机器人 Apate。
当澳洲警方辨析并拦截了电信诈骗电话,他们就会转接给这位「受害者机器人」
创作者 Kafaar 也曾经透露过 Apate 的诞生故事。
他和两个孩子在外面野餐时,给诈骗来电者讲了一个笑话。之后,他因此受到启发,开始思考如何用无意义的闲聊来消耗骗子的时间,从而阻止他们去欺骗更多的人。
我当时想,这样做的目的是欺骗骗子,浪费他们的时间,这样他们就不能和其他人通话了。
Apate 还拥有几百个不同的身份,这些身份各自带有不同的口音,有不同的个性,有的假装懵懵懂懂,有的就跟老人家一样讲话爱重复,也有的脾气比较暴躁,整体比较多样,主要是为了不被骗子认出模式。
简言之,与其教会一个人防骗,不如浪费一个骗子的时间。
技术在升级,人类的判断力永远是最后的防线
AI 的飞速发展为 Daisy 的诞生提供了一个绝佳契机。
Daisy 基于定制训练的大型语言模型(LLM)构建,其工作原理与 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。
具体原理就是,AI 会转录来电者的声音,接着这位 AI 奶奶会根据预设的角色性格来调整回答的风格和内容,最后再次转换成 AI 奶奶的声线:
- 转录语音为文本:将捕捉到的声音转换成文本的过程称为「转录」。这样,Daisy 可以理解来电者所说的内容,并准备相应的回应。
- 生成回应:Daisy 使用一个定制的大型语言模型(LLM)来生成回应。这个模型不仅能够理解文本信息,还能够根据上下文和预设的角色性格层(character personality layer)生成合适的回答。
- 角色性格层:「角色性格层」是指 Daisy 在生成回应时,会根据预设的角色性格来调整回答的风格和内容,使其更符合角色设定,比如像一个祖母那样亲切和耐心。
- 文本转语音:生成的文本回应需要再次转换成语音,以便 Daisy 可以通过电话与来电者进行交流。这个过程也就是「文本转语音」(TTS),Daisy 使用一个定制的 AI 模型来完成这一步。
并且,在训练的过程中,Daisy 还得到了一位 YouTube 博主 Jim Browning 的帮助。
该博主在 YouTube 上拥有 400万+ 粉丝,是该平台最具影响力的反诈骗者之一。他的视频不仅展示诈骗手法,还会通过详细的技术分析和实例,来揭示了整个诈骗产业的运作方式。
毕竟最了解你的人永远是你的敌人,骗子也不例外。
而在 Daisy 与骗子对话的整个流程,由于从听取声音、转录文本、生成回应到文本转语音都是实时进行,所以几乎没有明显的延迟。
不过,Daisy 并不直接提供给 O2 的用户使用。
原因很简单,O2 担心用户利用它对诈骗者进行报复行动,在他们的内部研究表明,71% 的英国人有过想要报复那些诈骗了他们或他们亲人的骗子的念头。
据外媒 techspot 报道称,这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动,且无需人工干预。
但问题是,现在的骗子分两种,一种是不懂 AI 的,一种是懂 AI 的。
前不久,初创公司 Bland AI 在 X 平台宣称,在大模型的加持下,其产品将成为全球最快的对话式 AI,且可以在没有「幻觉」的情况进行沟通。
另外,Bland AI 机器人还拥有极其自然的生成式语音、以及多种语言切换。
除了非常擅长模仿人类真实对话的语调、停顿,在外媒 WIRED 的技术测试中,Bland AI 机器人甚至可以否认自己是 AI,并谎报其真实身份。
包括 APPSO 此前也利用 AI 定制生成了一些 0 成本但很真的数字双胞胎。
在 AI 技术的增益之下,这些工具都能轻而易举地被诈骗不法分子反过来欺骗我们。
吊诡的是,电话一头连着 AI 骗子,电话一头连着 AI Daisy,一个捧哏,一个逗哏,双方无限循环。懂行的人都知道,这里面的道行有多深。
而更早些时候,智能电话系统已经相当完善。
只需向服务商提出需求,后者就能快速搭建管理平台。用户通过简单的界面操作,就能设置话术、模板、通讯线路等参数,导入联系人信息后即可启动自动外呼功能。
为此,国内手机厂商也在这方面做出了不少努力。
比如,国内大多数手机系统提供智能识别和拦截伪基站的功能。并且,你还可以在来电拦截设置中,开启「在线识别陌生号码」功能,让系统更准确地识别并拦截骚扰电话。
诈骗本质上是一场筛选游戏,骗子不在乎失败 999 次,他们只需要成功 1 次。
被骗了,一切归零。
诚然,诈骗手法或许千变万化,但下面这条官方的反诈公式永不过时。
人物(陌生人)+沟通(各种通信工具,反正就是见不到面的)+要求(转账汇款,反正就是谈钱的)=诈骗。
在 AI 时代,骗子和反诈技术都在升级,而人类的判断力永远是最后的防线。