国外父母开始用 AI 审查保母了,但似乎不太可靠

2020-06-26    收藏433
点击次数:703

国外父母开始用 AI 审查保母了,但似乎不太可靠

找保母是棘手事,因为要从几面之缘判断一个陌生人能否照顾不具自理能力的老人或小孩从来都不容易。

现在,人工智慧要来帮我们做决定了。

柏克莱大学的创业团队 10 月正式推出 Predictim,一种帮助父母筛选保母候选人的服务。

Predictim 会扫瞄一遍保母候选人的 Facebook、Twitter 和 Instagram 等社群网路帐号内容,做成一份包括「嗑药、欺凌/骚扰」等可能性评估的《安全报告》。

国外父母开始用 AI 审查保母了,但似乎不太可靠

Sal Parsa 说,他和 Joel Simonoff 联合创立的 Predictim 显然想将这项服务延伸从保母至任何一切和信任相关的私人雇用服务。看「大饼」前,我们不妨先了解一下用过服务的家长怎幺看。

父母喜闻乐见,但也心存疑虑

Jessie Battaglia 对《华盛顿邮报》说。她是一位 29 岁的母亲,她用 Predictim 测试了一下 1 岁儿子的保母。

这个一次 24.99 美元的服务告诉她,她很满意的保母在「欺凌、骚扰、态度不好和不尊重人」方面拿到 2 分,5 分为最危险。这下子让原本心满意足的她担心起来,却无法亲自检查到底是什幺因素导致保母「得高分」。

另一位母亲也遇到类似情况。在她看来,这个服务的问题在于,她无法判断演算法究竟是搜寻到候选人在社群网路参考一些电影台词或歌词等流行文化用语,还是真的找到能反映候选人有欺凌倾向的发言。

同时 Battaglia 儿子的保母 Malissa Nielsen,也就是被打了「2 分」的 24 岁女孩,对这个服务很不满:

Nielsen 每週去一次教堂,一句粗话都不说,现在正在攻读早期教育专业,以后还希望开一家幼稚园。她明白父母想多了解照顾孩子的人,但也对自己有信心,所以沟通后同意让两个聘请她的家庭看她的社交帐号,但并不知道他们会用演算法评测。

需要说明的是,欧美当保母的大多都是年轻人。你可以说社群网路记录了很广泛的个人资讯,但发表的内容包含很多「哏」或讽刺的话,演算法会不会误解?

鉴于演算法评测过程就是「小黑箱」,没有人确定是什幺影响演算法判断。

这也是为什幺 Parsa 说这份测试应该是辅助资料,「结果可能準或不準反映保母的真实个性。」

薛丁格猫的信任和难以察觉的歧视

看到这里,你也许会说「别用就好啦!」但换位思考,如果需要请陌生人当保母,有这种工具帮你侦测,你能否忍住?据保母仲介平台 Care.com 调查,50% 父母最后没为孩子找保母就是因为找保母的过程压力太大,难以掌控。

一旦走上「我先测试看看,再判断準不準确」,就会走进「薛丁格猫的信任」领域。

如果你要用这工具,但保母不愿意给社交帐号授权,那你会怀疑他们是否有隐情(即便人家只是重视隐私);如果你很喜欢这个保母,却像 Battaglia 莫名测出「2 分」,你也控制不了怀疑和担忧,即使这个分数準确度无从断定。

此外,不少人工智慧领域专家更担心的是,这类别的演算法很可能会默默增强各种歧视问题,亚马逊的人工智慧演算法引擎之前就爆出性别歧视:它不喜欢女性应徵者。

由于亚马逊的招聘演算法最开始的训练素材是公司过去十年来的履历,由于科技业原本就是由男性主导,所以演算法也学到这个不成文定律,主动给含有「女性」关键词的履历评低分。

现在,亚马逊放弃了招聘演算法,但新创公司 Fama 为上百家员工人数超过 1 千人的公司提供服务,评估员工和潜在雇员的社交帐号资讯。稍微好点的是,Fama 会整理一份「问题发言」连结报告,公司可自行判断审查。

从这个角度来看,Fama 像「筛选」,Perdictim 则是「判断」。但没有「问题推文」出处以二次审查,对父母而言问题也没想像中大。

住在旧金山的 Diana Werner 是两个孩子的母亲,她认为 Perdictim 能为找保母的父母「买个安心」,并相信保母也应该分享社交资讯让父母分析。

相关文章  RELEVANT ARTICLES