AI滲透人們生活的方方面面已是必然，隨著越來(lái)越多應(yīng)用場(chǎng)景落地，幫助人們改善生活也將無(wú)微不至。如今，為了幫助新晉爸媽群體，美國(guó)一家名為Predictim的AI公司開發(fā)了一款同名APP，提供評(píng)估保姆人格的在線服務(wù)。不過(guò)，僅過(guò)了一個(gè)月的時(shí)間，這款A(yù)PP就被用戶和媒體吐槽不靠譜，但也讓人們看到了未來(lái)的想象空間。
“AI判斷你有虐童傾向，所以你找不到工作”
Predictim基于AI評(píng)估一名保姆的可靠性，主要參與新晉爸媽尋找保姆的環(huán)節(jié)。寶爸寶媽們首先聯(lián)系到一名潛在的人選，獲得保姆的姓名和電子郵件，獲得對(duì)方同意獲取社交媒體賬戶的訪問權(quán)限，即可以在平臺(tái)上進(jìn)行評(píng)估。如果保姆拒絕，則會(huì)收到一封電子郵件，提示無(wú)法被雇傭。
既然不評(píng)不行，那么進(jìn)入到這一評(píng)估流程后，這名保姆的隱私就會(huì)交給AI過(guò)濾。Predictim會(huì)掃描這名候選人的Facebook、Twitter 和Instagram 等社交平臺(tái)上近幾年的發(fā)帖和圖片，在幾分鐘之內(nèi)生成評(píng)估報(bào)告。而這份報(bào)告包含個(gè)性特征、行為特征、擅長(zhǎng)領(lǐng)域等，重點(diǎn)提供是否有霸凌、態(tài)度不佳、不尊重人等傾向，用以反應(yīng)一名保姆的就職風(fēng)險(xiǎn)。從無(wú)風(fēng)險(xiǎn)的綠色到非常危險(xiǎn)的紅色，一名潛在的候選人就這樣被AI打上了標(biāo)簽，并且結(jié)果只呈獻(xiàn)給孩子的父母，不會(huì)告訴保姆本人。
愛沒有界限，AI有些問題
保姆這一職業(yè)雖然屬于服務(wù)業(yè)，但是對(duì)于新晉爸媽來(lái)說(shuō)是類似于家人的存在?？孔V的保姆不僅能解放家長(zhǎng)，還能起到影響孩子的良好作用，不靠譜的保姆卻屢屢見諸報(bào)端，虐童、縱火，駭人聽聞。
雖然保姆的可靠性至關(guān)重要，但是顯然Predictim的評(píng)估規(guī)則有些簡(jiǎn)單粗暴。所以首先被吐槽的就是它的片面性。
Facebook、Twitter 和 Instagram 等APP對(duì)于美國(guó)人來(lái)說(shuō)是主流的線上社交平臺(tái)，雖然能夠一定程度上體現(xiàn)一個(gè)人的個(gè)性，但恰恰因?yàn)槭怯脩舭l(fā)聲的出口，所以涉及到的話題非常豐富。
值得注意的是，美國(guó)保姆市場(chǎng)和中國(guó)不盡相同，并不是中年人主導(dǎo)，而是大多是年輕人，因此社交軟件才被Predictim作為主要的檢測(cè)對(duì)象。
但是，如果用戶引用了電影臺(tái)詞或歌曲歌詞、玩了什么網(wǎng)絡(luò)上的梗、在評(píng)論時(shí)用了反話(類似微博加狗頭的做法)等，AI是否能識(shí)別并最終正確反映一個(gè)人的性格？
對(duì)于這一問題，目前的AI水平還不能讓人那么放心，即便達(dá)到了人類的理解水平，也有網(wǎng)友表示：“電腦沒有感情，又怎能評(píng)判所有事？”
當(dāng)然，即便AI擁有感情，也只是在線上，而一個(gè)人的真正畫像還包括與他人的接觸，也就是占有更大比重的線下。
除了評(píng)判標(biāo)準(zhǔn)片面、智能水平不可靠，Predictim在上線的短短一個(gè)月后，還迎來(lái)了不小的打擊。今年(11月27日)消息，F(xiàn)acebook認(rèn)為Predictim違反了其使用個(gè)人數(shù)據(jù)的政策，撤銷了大部分來(lái)自Predictim的訪問權(quán)限，正在調(diào)查是否應(yīng)該將其完全屏蔽，而Twitter則已經(jīng)完全屏蔽。
Twitter發(fā)言人通過(guò)電子郵件向媒體回應(yīng)稱，“我們嚴(yán)格禁止將Twitter數(shù)據(jù)和api用于監(jiān)控目的，包括進(jìn)行背景調(diào)查。當(dāng)我們意識(shí)到Predictim的服務(wù)時(shí)，我們進(jìn)行了調(diào)查，并撤銷了他們對(duì)Twitter公共api的訪問。”
Predictim通過(guò)過(guò)濾包含“毒品”、“暴力”等關(guān)鍵詞或相關(guān)話題的發(fā)帖作為主要的評(píng)估維度，但作為一家今年6月份才成立的創(chuàng)業(yè)公司，通過(guò)并未被認(rèn)可、也不可證偽的單一算法就決定一個(gè)人的就業(yè)，批評(píng)人士表示不可信任。
雖然Predictim也有人工復(fù)檢的機(jī)制，被標(biāo)記為有問題的帖子會(huì)被手動(dòng)查看，以防止出現(xiàn)假陰性，但是初創(chuàng)公司的屬性和AI現(xiàn)階段的局限性都讓其無(wú)法走出輿論的旋渦。
雖然不靠譜，但是AI的想象空間由此大開
Predictim的發(fā)展雖然坎坷，但是讓AI評(píng)估人類這件事本身必將成為趨勢(shì)。
首先，AI在企業(yè)招聘、人力資源管理過(guò)程中已經(jīng)開始發(fā)揮作用。
除了招聘軟件自動(dòng)篩選簡(jiǎn)歷為HR釋放了不少精力，IBM公司還用AI判定員工績(jī)效。據(jù)IBM人力資源部統(tǒng)計(jì)，與人類的評(píng)估結(jié)果對(duì)比來(lái)看，Watson的準(zhǔn)確率達(dá)到了96%，在HR可以接受的范圍內(nèi)，因此已經(jīng)開始試用了。
國(guó)內(nèi)也已經(jīng)出現(xiàn)了仟尋MoSeeker、iPin等入局AI招聘的創(chuàng)企，甚至部分企業(yè)在面試過(guò)程中加入了AI評(píng)定環(huán)節(jié)。
目前在招聘環(huán)節(jié)使用AI還有一定局限，即便是HR本人面試也難以在短短一面之緣下完整地了解求職者，不過(guò)未來(lái)“AI驗(yàn)人”有著巨大的想象空間。
試想，此前多次在網(wǎng)約車平臺(tái)爆出的刑事案件中，犯罪分子因?yàn)?a href="http://www.jumige.com/jinrong/" target="_blank">網(wǎng)貸逾期而產(chǎn)生反社會(huì)心里、走上犯罪道路，半年向57個(gè)網(wǎng)貸平臺(tái)申請(qǐng)過(guò)資金，這樣完全在線上的行為竟然沒有被提前感知。
另有例如，某網(wǎng)貸平臺(tái)在放款環(huán)節(jié)需要用戶填寫擔(dān)保聯(lián)系人，但卻不核實(shí)該聯(lián)系人與用戶的社會(huì)關(guān)系，在逾期后卻電話聯(lián)系該聯(lián)系人催款，簡(jiǎn)直讓人無(wú)法理解其邏輯。
如果形成了以每一個(gè)人實(shí)名用戶為中心的數(shù)據(jù)平臺(tái)，AI的作用就能真正惠及大眾。當(dāng)AI檢測(cè)到用戶頻繁的社交平臺(tái)不良言論及時(shí)干預(yù)，扶正的就是一個(gè)本可以健康陽(yáng)光成長(zhǎng)的網(wǎng)民;當(dāng)AI檢測(cè)到用戶收入水平偏低卻頻繁在二手平臺(tái)出售電子產(chǎn)品及時(shí)干預(yù)，預(yù)防的就是一個(gè)潛在的犯罪分子;當(dāng)AI檢測(cè)到用戶出現(xiàn)頻繁網(wǎng)貸行為的失信傾向并及時(shí)干預(yù)，挽救的就是一個(gè)活生生的生命。
我們反對(duì)片面地評(píng)判他人，無(wú)論是人還是AI，但我們期待未來(lái)AI可以做得更好。
【來(lái)源：擴(kuò)黑科技】
