来自小圈

人工智能讨论组

4255万人气

可以给情绪打分,避免意气用事?南都科创对话AI情绪“预测师”

南方都市报 • 南都科创
原创2020-05-29 17:18

用AI评估心情、调节情绪甚至预测你未来的情感,现在正有技术开发人员让这种想象变成现实。

2015年一款名为Stigma的情绪跟踪软件,入选苹果应用商店中评分最高的心理健康类应用程序,吸引了25万用户。2019年,该软件开发者又出升级产品。

近日,南都科创记者采访自动情绪追踪软件Misü开发者Dan Seider。

情绪软件1.png

DanSeider是加拿大人,也是一名现在居住在美国旧金山湾区的创业者,他毕业于加拿大圭尔夫大学。Misü是一个2019年建立的初创科技公司,DanSeider现是Misü公司的创始人兼CEO。DanSeider设计的两款软件Stigma、Misü都主打情绪跟踪功能,这与他个人经历有关。

“困扰多年,当时我焦虑极了。”Dan告诉南都科创记者,大学时自己被确诊患有躁郁症,这曾深深影响他的生活。

Dan为此花了很长时间来恢复心理健康,精神科医生建议他记录自己的情绪变化。渐渐地,他发现情绪追踪能让自己清楚地控制情感和行为,因而想到把这种方式变成软件来帮助更多人。

记者体验:

电脑摄像头捕捉表情,AI计算给情绪打分

如何检测情绪?

为了体验软件评估情绪的效果,南都科创记者从Misü官网下载了该软件进行试用。

情绪软件2.png

初次打开软件,电脑界面会跳出“获取计算机控制权限”的请求,它获取的权限主要有两项:访问摄像头和控制其他应用。这也是Misü的工作过程,即通过电脑摄像头拍摄人的表情,并将不同时刻的照片对应不同时刻用户查看的电脑页面,这样人们就能知道自己在看电脑上不同内容时心情如何。

当南都科创记者在电脑上切换不同的网页或者软件,电脑屏幕上方的摄像头指示灯便会亮起,这是为了提醒用户Misü正在拍照。

过了一段时间后,当南都科创记者打开软件主页面就能看见自己情绪的实时得分——72、69、78、65……

情绪软件3.png

这些数字背后采用了怎样的技术?

Dan曾公开解释Misü的详细运作原理:如果一个人用电脑工作八个小时,Misü就会进行200到400次情绪捕捉。当用户作出皱眉头、眯眼睛等细微的表情时,Misü就能估计这个人的情绪状况。

Misü评估情绪的依据来自Dan开发的上一款主动式情绪跟踪应用Stigma。

Stigma的用户通过在软件中主动写下心情日记来反思生活、控制焦虑和压力。Dan在征得其中约1万名用户允许的前提下,拍下了30万张与心情日记相对应的用户表情照片。然后,他用这些数据来训练一种计算人类情绪水平的算法用于Misü。

从Stigma到Misü,软件功能发生变化根本上是因为受到AI的技术驱动。作为开发者,Dan如何理解AI在情绪识别中的潜力?

“你的情感变化都会展现在表情和动作上,而AI能够捕捉到每一个非常小的细节。未来,AI甚至可以基于你当前的状态和行为来对你的情绪作出预测。”Dan解释道。

准确率受限,人脸数据采集受争议

为了检验AI计算模型的准确性,Dan曾用Misü所使用的算法来分析部分未包含在机器学习数据中的用户情绪。经过一番测试,他发现Misü的算法能够在86%的时间里正确评估一个人开心、焦虑和悲伤程度,这与精神卫生临床用于诊断患者抑郁水平的PHQ-9量表效力相当。

在使用Misü时,南都科创记者发现突然亮起的摄像头指示灯会令人感到浑身不自在,由此认为这可能会让人做出不自然的表情。

对此,Dan也坦言,“一个内心高兴的人也可能由于身体疲劳而表露出疲倦的神色”,但算法并不能识别出来。正如纽约大学人工智能研究机构AI Now创始人Kate Crawford 指出地:“并没有确凿证据表明,人们的面部形态和内心情感存在着持续性的一致关系。”

除了AI计算的准确率有限以外,Misü一度受到用户质疑:个人隐私数据安全么?

隐私数据保护是人脸识别技术中一个非常重要的议题——并不是每个人都愿意让摄像头记录自己的一举一动。对Misü而言,当用户的表情被后台“悄悄”拍下来后,这些照片会被如何处理?

对此,Misü声明自己只是在用户的电脑上对照片进行本地分析。公司并不会存储用户的个人信息,而只会记录情绪评估值和对应时间、对应网址这些简单数据。

此外,用户有权利向Misü公司索取自己的数据并随时删除。“我自己也是Misü用户,我不会希望我的团队查看我的数据。”Dan解释道。

像其他一些新技术,情绪追踪评测软件也遭到市场质疑:它是小众炫技?还是未来会拥有成熟的商业模式?

纽约大学人工智能研究机构AI Now创始人KateCrawford在接受BBC采访时曾说:“情绪识别技术已被社会广泛使用,从在面试中找到最完美的员工,到评估医院里病人的痛苦,再到追踪哪些学生在课堂上专心听讲。”

  1. 2018年,麻省理工学院媒体实验室情感识别软件创业公司Affectiva发布了其情感AI软件emotional AI software,可被用于追踪司机的情绪、精力和分心程度。

  2. 2019年,苹果公司向美国专利与商标局提交了一份有关智能语音助手Siri功能升级的新专利申请文件,计划在未来通过分析用户面部图像来提高解释用户语音操作的准确率。

  3. 2020年,美国网络招聘平台HireVue在新冠肺炎疫情期间用AI面试帮助企业高效地对大量应聘者进行初步筛选。30分钟内,AI就可以从应聘者的面部表情和身体姿势中分析出他们的特质以及是否能够胜任应聘职位。

尽管国内外已有企业在尝试基于AI情感识别的市场应用,但在欧盟的《一般性数据保护条例》(简称GDPR)中,明确规定了除非满足特殊条件,不能对个人“脸纹”等生物数据等进行处理。“我们经常问自己的关键问题是:谁在开发相关技术?它是用来帮助我们还是用来判断、评估和控制我们的?”国际隐私组织的技术政策专家Frederike Kaltheuner告诉了BBC她对AI情绪识别技术的看法。

因此,未来一段时间,AI面部识别使用依然会面临伦理、法律和安全等方面的争议。

出品:南都科创工作室

采写:南都记者 任先博 实习生 郭静怡


 

编辑:任先博

7
对这篇文章有想法?跟我聊聊吧
任先博2634W
南方都市报记者
南都新闻,未经授权不得转载。授权联系方式:
banquan@nandu.cc,020-87006626。