新京报贝壳财经讯（记者 白金蕾）当前，人工智能的可控性和安全性已成为重要的发展议题，其中AI诈骗等AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。6月21日，瑞莱智慧（简称：RealAI）推出了全球首个可实时检测AI合成内容产品RealBelieve，中文名“尊嘟假嘟”。

与国内外AI合成检测产品依赖被动上传不同，该产品面向终端用户，能够主动实时检测防护，可接入视频流鉴别人脸真伪，也可在用户浏览网页内容时提供AI合成内容的可能性提示，现已启动内测招募。

根据公开报道数据整理，近年来，我国AI诈骗案件数量及涉案金额均呈现指数级增长。2023年，我国被公开报道的AI诈骗案涉案金额已达数千万人民币。而2024年初，某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗，仅此一案就已导致该公司受损2亿港币。

国内AI诈骗案件呈现上升趋势。图|受访者供图

RealAI此次发布的尊嘟假嘟RealBelieve可以为终端用户提供文本、图片、视频和音频多种模态的文件上传检测服务，还可以通过浏览器插件的形式实时提示用户所浏览网页的疑似AI合成内容，变被动为主动。

针对AI诈骗这一AI滥用风险日益加剧的态势，尊嘟假嘟RealBelieve还可为用户提供视频通话AI合成实时监测防护。在视频通话时，产品会及时给用户发出预警内容，提示视频对方的人脸是否存在AI合成的风险。实时的风险提示可以帮助用户及时调整聊天方式，减少不必要的损失。

编辑 方静怡 校对 吴兴发