论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
ToB企服应用市场:ToB评测及商务社交产业平台
»
论坛
›
大数据
›
数据仓库与分析
›
实战剖析:打造风控特征变量平台,赋能数据驱动决议 ...
实战剖析:打造风控特征变量平台,赋能数据驱动决议 ...
鼠扑
金牌会员
|
2024-5-13 01:46:01
|
显示全部楼层
|
阅读模式
楼主
主题
699
|
帖子
699
|
积分
2097
金融业务产品授信准入、生意业务营销等环节存在广泛的风控诉求,随着业务种类增多,传统的专家规则、评分卡模型难以应付日趋复杂的风控场景。
在传统风控以专家规则系统为主流应用的语境下,规则模型的入参习惯被称为“变量”。基于专家规则的
风险评估
,存在规则触发阈值难量化的特点,规则掷中精准度提升存在瓶颈。
随着呆板学习及神经网络算法的技能落地,更多开始采用
“特征”
来代指供给算法模型的
入参
。具体来说,“特征”在其产出过程中,作为上游外数接口的出参,在应用端输入过程中,作为下游规则模型的入参。
建设背景
特征变量数据来源包括客户根本信息、财务状况、消耗行为和交际网络图谱等,其在差别
风控模型
中输入反映乞贷人的信用状况和风险程度的度量,高效的
特征抽取管理
是一系列线上化风控动作的数据基础。
在银行保险等同业金融机构中,由于风险业务来源的在组织架构上的复杂性,差别条线之间不可制止地存在烟囱式的特征变量开发,策略建模职员的数据需求每每在某一产品中已开发部署但并未形成统一管理共享的平台机制,造成了业务间用数口径及策略生成同等性的偏差。
因此,需要对风险业务用数流程进一步产品化抽象,来规范特征变量的衍生、存储、调用及监测,
统一风控特征变量平台
也应运而生。
痛点分析
在风控任务开发场景中,
模型任务
从预先开发的变量存储表中取数。实际开发中每每存在特征开发部署门槛高、复杂特征抽取难度大、特征应用口径差别等、特征加工流程不统一等业务及开发痛点。
01 实时特征变量开发门槛高
风控业务相关策略建模职员技能栈以Python、SQL能力为主,对基于Java语义的Flink开发有一定学习本钱,除了基于离线数据的模型训练部署,实时特征处理能力不足。
02 复杂特征变量抽取难度大
部门外部数据源接口的返回报文嵌套层级较多,出参位置混乱,接口取数难度较大,对抽取特征缺乏统一平台管理维护。
03 特征变量应用口径差别等
在构建
风控模型
时模型任务存在雷同的特征变量需求,但差别团队或差别项目中存在针对雷同的原始数据重复进行特征工程处理的环境,导致特征变量逻辑变更后相应SQL的同等性和准确性问题。
04 特征变量加工流程难统一
下游策略、模型侧的新增特征变量需求缺乏同等标准化的加工路径,导致对应变量表出入参命名杂乱,当新增字段通过原SQL无法读取上游表,产生更多复杂嵌套的Join操作,随着衍生特征及
变量集
的配置,任务规模及资源占用环境每每难以控制。
风控特征变量体系建设方案
风控特征变量体系
建设聚焦于
金融机构实时风险识别与防控
,通过对多源异构数据的批流抽取、聚合与衍生加工,沉淀标准化、易扩展的
统一特征变量平台
,实现从数据接入、
特征变量生成
、为下游模型训练及决议执行供数的端到端闭环,提升风险变乱响应速度与决议精准度。
01 技能能力
风控业务每每面临
实时数据处理
需求,在客户生意业务、信贷审批等场景中,流计算能够实时更新客户信用评级、额度管控等风险信息,为下游决议引擎提供实时化跨系统的风险识别能力。
在
实时风控技能系架构
中,计算包括了批计算、流计算及图计算,以流计算能力为例,Flink提供了底层面向实时特征计算的能力,主要用于数据ETL、
宽表加工
、窗口计算、双流Join等场景,通过预计算、状态聚合计算等能力实现原始特征变量、标准特征变量、
衍生特征变量
的加工,为决议模型提供特征支持。
模型引擎
主要负责存储和管理经训练的各类模型,如信用评分模型、
欺诈检测模型
、流失预警模型等。
决议引擎
集中管理规则集、决议树、决议矩阵、评分卡等策略模型,
规则集调用特征变量服务
及模型引擎的模型服务参与决议流的逻辑运算。
特征变量引擎
基于异构数据源,进行数据抽取、加工计算、标准化管理维护,实现风控职员自助查询,更加便捷、规范地进行业务取数和数据分析。
02 数据来源
以信贷业务数据源为例,根据授信主体差别通常可分为To C个人信贷及To B对公信贷。在实际业务审查中,客户经理通常以现金流程度及负债程度两大指标进行客户授信可行性分析。
在个人信贷场景下,客户现金流程度可拆解为社保缴纳、银行及三方支付平台收入流水。负债程度则主要来源于人行征信,涵盖了个人名下各金融机构发放的全部贷款、占用风险敞口的金融产品及对外担保信息,征信数据来源除人行外包括其他第三方个人持牌征信机构,如百行征信、朴道征信及钱塘征信。
在对公信贷场景下,小微普惠类贷款的风险来源聚集于其实控人,现金流程度除实控人个人流水外同步采集对公账户流水,负债程度则额外接入其人行企业征信。中大型企业授信及行业专项贷款下,其主体风险行为变乱难以依靠征信税务数据直接度量,区别于小微普惠类贷款,需结合企业实地库存与关联企业经营状况进一步线下尽调。
针对以上两类信贷业务,
特征加工
每每采集以下多维数据来源:
03 数据处理
面向差别风控场景的数据源,采用批、流、预计算等模式融合的特征变量加工方式,实现对业务需求的灵敏开发与存算本钱管控。
批计算:针对大规模汗青数据集,采用
批处理
进行特征变量加工。对数据中的缺失值、非常值等问题,采用插值、平滑等方法进行处理,包管数据质量。
流计算:针对实时数据流,采用流式处理模式进行特征变量加工。通过
实时流处理技能
,实现对数据实时分析,满意风控场景对实时性的要求。同时,采用变乱驱动的架构,确保数据处理的高效与灵活性。
预计算:针对业务系统数据,视其变化频率预先计算并存储特征变量,可以有效降低流计算本钱,提高决议系统从特征引擎取数的效率。
04 平台建设
具体来说,
特征变量平台
需要整合征信系统、三方数据源、企业内部系统等多来源数据并进行流批能力的衍生加工,能够支持差别业务场景的风控模型入参需求。对于差别复杂度的特征变量支持可配置的、业务主导的低代码加工方式。因此,特征变量平台的建设通常包罗以下几个方面:
1、特征变量抽取与生成
主动化数据清洗与预处理,将原始数据转化为可供建模使用的特征。提供画布+组件化的一站式WEB IDE模式提升开发效率,支持用户自定义或系统内置的特征计算逻辑。
2、特征变量存储与管理
基于
分布式存储机制
,存储大规模的汗青及实时特征数据。实现特征版本控制,记录特征计算逻辑的变更汗青,确保模型训练时可以回溯至特定版本的数据。
3、特征变量服务化
提供特征服务接口,为各种模型训练、预测以及决议引擎提供实时或批量特征查询服务。通过输出组件可以快速对接下游规则引擎、实时数仓、消息队列,满意复杂业务场景下低延迟、高并发访问的性能需求。
4、特征变量探索与分析
提供丰富的
统计分析工具
,帮助分析职员快速相识特征变量分布、关联关系等。可视化界面展示特征紧张性、影响度等指标,辅助特征选择与迭代。
5、与内外部系统的集成
集成金融机构内部生意业务系统、CRM系统、ERP系统等多种数据源。支持与其他
风控组件
(如规则引擎、模型库等)以及外部征信品级三方数据服务商的对接。
05 建设收益
在某银行客户特征变量项目的落地实践中,平台服务于贷前授信场景的特征变量加工衍生管理需求,对接上游多样化数据来源,如外部的运营商、工商、司法数据;银行内部的客户设备信息、账户生意业务信息;贷前网络的资产估值、额度测算数据。通过
实时特征变量计算能力
,向下游申请评分卡等模型供数。
1、组件化抽取特征变量
平台从SQL命令中批量剖析特征变量,面向模型任务的取数需求,用户可在平台自由加工组合所需特征变量写入相应主题hive表以供读取加工。
2、特征变量集同步更新
页面支持增、删、编辑特征变量集,平台表结构操作主动同步至物理模型表。当特征变量逻辑发生变化时,仅需编辑对应标准特征变量衍生代码或原始特征变量标准化操作,制止面向大段sql函数的复杂开发。
3、稳定性及非常监测
平台提供的
监控看板功能
支持了对特征变量的波动及变量集调用环境的监测,特征变量值监控确保上游数据非常时,下游任务及时停止,最大大概制止模型用数时特征变量差异过大造成的模型结果失真;统计各变量集调用环境,实时
推送基线告警
及强弱规则校验信息。
4、平台统一管控
平台提供成员管理、审批中心、调用分析、主动归档、任务重启等管控手段,支持任务优先级调整,统一调度任务运行以提高数据服务达成效果及集群资源利用率。
平台部署上线,覆盖支持了消耗贷、小微信用贷等业务下30+授信场景。特征变量平台通过与下游规则模型引擎的结合,实现了实时决议能力在风控场景的落地,满意了贷前授信场景下提高用户在信用卡申请、贷款审批过程中的客户体验和放款效率,此外,也为贷后催收、生意业务反欺诈等场景供数,支持下游系统实时监控用户的非常生意业务行为,进行反洗钱身份识别,并进行实时告警推送。
《数栈产品白皮书》下载地址:
https://www.dtstack.com/resources/1004?src=szsm
《数据治理行业实践白皮书》下载地址:
https://www.dtstack.com/resources/1001?src=szsm
想相识或咨询更多有关大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:
https://www.dtstack.com/?src=szbky
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
0 个回复
倒序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
发新帖
回复
鼠扑
金牌会员
这个人很懒什么都没写!
楼主热帖
Java 基于Apache POI实现Excel读写操作 ...
Dapr 知多少 | 分布式应用运行时 ...
C#生成putty格式的ppk文件(支持passph ...
5.15日 搭建青龙面板教程——狗东跑跑 ...
C++中函数指针使用
子查询优化之 Semi-join 优化 | StoneD ...
倾斜单体化模型技术实现
二刷整合
Vulnhub之Medium Socnet详细测试过程 ...
记录一次NoSuchMethodError问题的解决 ...
标签云
挺好的
服务器
快速回复
返回顶部
返回列表