(原标题:IBM发布新型Telum处理器 可加速片上AI推理实时检测欺诈行为)
今天IBM在Hot Chips大会上展示了一款新的芯片,该芯片可以实时对企业工作负载执行深度学习预测以解决欺诈问题。
这个名为“Telum”的芯片,是IBM首款采用针对AI推理的片上加速(或者是在交易处理过程中利用数据进行预测的过程)功能的处理器。IBM表示,该处理器可以为运行银行、金融、交易和保险工作负载以及客户交互的新一代大型机提供动力。
IBM称,Telum开发工作已经持续了三年时间,首款Telum的系统将于2022年推出。
Telum将让应用能够在靠近所使用数据的位置高效运行于云端,这就避免了需要大量资源用于内存和数据迁移以实时处理推理负载。
IBM表示,让AI加速更靠近数据,这个特性让企业能够对敏感交易进行实时的、大容量的推理,而无需求助于那些可能会影响性能的平台外AI工具。客户仍然可以在平台外构建和训练AI模型,然后在IBM Telum系统上部署剩下的部分用于实时工作负载分析。
IBM表示,Telum的关键优势在于,客户可以在不影响SLA的情况下,把关注点从检测欺诈转向预防欺诈。
Moor Insights & Strategy分析师Patrick Moorhead表示,有两种场景是把推理直接内嵌到工作负载中,会产生变革性的影响。
“首先是利用AI对业务数据进行分析以获得洞察力,例如信用卡交易欺诈检测、客户行为预测或者是供应链优化,”Moorhead解释说。
他表示,这样就可以在交易完成之前检测到欺诈交易行为,而平台外AI系统是不可能做到这一点的,因为将数据转移到系统外不可避免地会遇到网络延迟问题,从而导致交易速度慢得令人无法接受。
他说:“在平台之外你需要将数据从Z迁移到另一个平台上,而且需要延迟很低才能够持续地处理每笔交易。随着延迟的激增,有些交易就无法得到检查处理,有些客户的交易处理完成率只有70%,剩下30%的交易都没有得到保护。”
IBM表示,目前IBM正在与一家未透露名称的国际银行展开合作,使其能够检测出信用卡交易授权处理过程中可能存在的欺诈行为,该客户的目标是在保持每秒处理多达100,000次交易,同时还能够实现亚毫秒级响应时间,而这是利用现有交易处理基础设施所能实现的近10倍之多。
IBM工程师Christian Jacobi和Elpida Tzortzatos在一篇博文中解释说:“客户想要一致且可靠的推理响应时间,以毫秒级低延迟来检查每笔交易是否存在欺诈行为。Telum旨在帮助满足此类具有挑战性的要求,特别是在大规模运行组合交易和AI工作负载方面。”
而另一个片上推理可能带来的好处是使用AI让基础设施变得更加智能,例如,工作负载放置、安全异常检测、或者基于AI模型的数据库查询计划等等。
IBM表示,Telum芯片采用了三星的7纳米制程工艺,其中包含了8个处理器内核,具有深度的超标量乱序指令流水线,5 GHz的云频率,并针对异构企业级工作负载需求进行了优化。
IBM表示,Telum采用了一个全新设计的缓存和芯片互连基础设施,每个核心配置了32MB缓存,能够纵向扩展到32个Telum芯片。
相关新闻: