前瞻经济学人 看懂未来新十年

打开APP

日本公司开发贷款AI,通过面部表情和声音判断贷款者是否值得信赖

大数据文摘

2

编译|陈之炎  来源|大数据文摘(ID:BigDataDigest)

 “我们可以在一分钟内确定一个人是否值得信赖。”这正是位于东京的Deep Score公司上周在CES2021向潜在客户和投资者推销其面部和语音识别应用时的宣传。

它的工作原理是:让寻求商业贷款或医疗保险的人看着手机摄像头,并回答一系列简短的问题,比如:你住在哪里?你打算如何使用这笔钱?你有癌症病史吗?

然后DeepScore通过分析他们面部肌肉抽搐和声音变化,向贷款人或保险公司做出了决策:这个人是否值得信赖。

据其首席执行官Shirabe Ogino称,自2019年成立以来,DeepScore吸引了数千名货币借贷和健康保险行业的用户,主要分布在日本、印度尼西亚、越南和菲律宾。

它的目标是彻底颠覆信用评分,特别是在新兴市场和像FICO和Zhima信用这样的行业巨头经营的国家,因为在这些国家,大多数居民没有详细的债务、支出或身份证明文件。Ogino没有披露任何使用该服务的具体公司。

“如果你无法提供任何信息给你的贷款人,你便贷不到任何钱,”Ogino说 “人们可以不回答问题或不使用我们的引擎,这样他们便贷不到钱。”

隐私和人权倡导者对DeepScore的做法感到震惊-面部和声音识别算法捕捉到的微小信号与一个人的诚信度是否能主观地联系起来。

Human Rights Watch研究人工智能的高级研究员Amos Toh声称:目前没有可靠的科学证据来表明人的面部表情或声音的变化能反映出内在精神和情绪状态。

然而,当前已经有一些研究发现了面部表情与诚信度之间的联系,比如不诚实时的多种类型的微笑。

在与董事会分享的幻灯片演示中,DeepScore指出:200多篇关于“微运动和压力”的研究论文是其技术的基础,并提供了其中18份文件的清单。

许多论文显示出具有相关性,但不一定是可靠的事实。

同时,其他研究表明,面部表情与精神状态之间的弱指示关系,它因文化而异。此外,一直以来,面部识别技术对女性和肤色较深的人并不太准确。

Ogino说,该公司对每个实体的算法进行了校准,以解释其客户群之间的物理变化。

他还强调,贷款人和保险公司只将DeepScore作为其决策过程的一部分。如果你申请500万美金贷款,而实际收入只有1美金,便没有人会借给你钱,他们会参考贷款人的其他信息。

在DeepScore的宣传幻灯片和网站上,DeepScore声称:它可以检测出70%的准确性和30%的欺骗行为。

DeepScore的网站通过在由说谎者和说真话者组成的队列上进行了测试,错误率和偶然偏差的结果对人工智能研究人员来说尤为重要。

算法偏差审计平台Parity AI的创始人鲁曼·乔杜里(Rumman Chowdhury)博士告诉董事会,这个应用程序有可能歧视那些患有抽搐、焦虑或神经不正常的人。

她说,作为概念证明,DeepScore引用的研究不太可能涉及该公司所针对的亚洲特定社区的参与者,其中许多研究貌似解决了面部运动与压力之间的相关性,而并非在说谎,这对他们研究的相关性提出了进一步的质疑。

Chowdhury说:“总的来说,人类在说谎时有一些普遍的姿态,但也存在着个体的区别,当我紧张的时候,可能会摸自己的鼻子,这并不意味着我在撒谎。”

DeepScore有针对性地瞄准了那些很难获得客户信息的市场。Ogino说“任何算法都不是百分之百准确的”,但我们的目标是给那些会被排除在外的人带来贷款和保险的机会,因为企业无法确定他们是低风险还是高风险,它可能涉及生死决定。

该公司的一张幻灯片描述了保险公司的一个用例:“如果(申请人)被诊断出患有癌症,但因为处于早期阶段却做了隐瞒”。应用程序会检测出申请人对10个问题中的一个回答不诚实,从而引发费用增加或额外检查。

2

DeepScore的隐私含义是巨大的,Privacy International的法律官员Ioannis Kouvakas审查了该公司的幻灯片,并告知董事会:根据一般数据保护条例(GDPR),他不相信该公司能够在欧盟合法运营。DeepScore表示在某些国家会有客户,如印度尼西亚和越南,这些国家还没有制定全面的数据保护法。

Deep Score没有在其网站上列出隐私政策。Ogino说,潜在的借款人可以选择不使用这项服务,也可以选择合作。

Kouvakas说:“你很容易选择同意使用这项服务,但这非常不公平。这对于决定下个月你是否能拿到(钱)的人来说,很难拒绝。”

相关报道:

https://www.vice.com/en/article/akd4bg/this-app-claims-it-can-detect-trustworthiness-it-cant

编者按:本文转载自微信公众号:大数据文摘(ID:BigDataDigest),编译:陈之炎,来源:Vice


阅读全文
打开APP,享受沉浸式阅读体验

提问研究员

一键提问研究员,零距离互动交流

我要提问
1

App数据库能为你做什么?

看看用户怎么说

2

App问答能为你做什么?

看看用户怎么说

3

App报告能为你做什么?

看看用户怎么说

4

App文章能为你做什么?

看看用户怎么说

相关阅读