计算机系统居然优先识别有钱人!算法代替决策,谁来监督公平?

近日,Facebook人工智能研究人员对Facebook、Google Cloud、微软Azure等6种物体识别系统进行了分析,其结果表明,这些计算机视觉系统能更加高效地识别更贵的家居物品,识别的成功率要比最便宜的一批家具高出10%到20%。

大数据时代,系统利用算法分析“杀熟”的现象屡见不鲜,现在“杀穷”也来了么?人类世界向来有这么一句话,“只敬罗裳不敬人”,当人工智能各种让科技具有温度的词汇来袭,人类社会中这样的看法居然在计算机系统的算法中也有变相的体现,不禁让人深思。

青年怪才尤瓦尔·赫拉利曾经说过:未来的世界会分成两种人,一部分是控制算法的1%的神人,另一部分是99%没有用的人。这样的说法虽然说有点危言耸听,但从我们的日常生活细节中可以发现,近些年来,很多人应该确实都感受到了大数据算法无孔不入。更可怕的是,人的天性是懒惰的,人们好像更愿意让算法帮助决策。

那么,一个哲学问题就来了,算法帮助人类决策,那做决策的到底是谁?在思考这个问题之前,我们得先了解下大数据的概念,百科里关于大数据的解释总是过于深奥,有网友总结为四个字:大、全、细、时,可以说是非常形象地道出了大数据的特点。

数据量大,并不代表着数据一定有可以被深度学习算法利用的价值,而大数据不仅在大,还在全、细、时。主要是因为现在的计算机系统有着非常良好的数据采集手段,所以计算机能够获取到更多、更全面、更细致、更及时的消息。有了大数据的存在,就更有助于算法分析,帮忙决策。

我们不能说做决策的到底是谁,因为最后的决策是多方共同导致的结果。算法在其中是作用就是能让决策更统一、精确、严谨,可以说是人工智能的基石。

但问题是怎么做到“算法公平”,算法工程师们可以努力解决自动化算法工具可能带来的不准确,不全面,但我们不得不面对这些算法工具的发明使用本身就处在存在歧视的社会系统中。

有学者认为,无论算法是否准确,它所依赖的都是有偏见的数据。“杀熟”“杀穷”所体现出来的就是这个道理。令人担心的是,“杀熟”“杀穷”还只是当前我们所能发现的,久而久之,算法给我们带来的认知局限还会更多,更难以发现。

计算机运算越来越多地用于指导可能改变生活的决定,对大数据的监管就日益重要。但目前的情况是,谁都不知道有多少不公平的算法工具在使用中,如何确保这些不公平的数据不会导致一些不可见的后果,是工程师以及我们每个普通人应该思考的问题。你觉得呢?

注:本文由今日商讯独家原创,未经授权,禁止转载或引用。

发表评论
留言与评论(共有 0 条评论)
   
验证码:

相关文章

推荐文章

'); })();