当前位置:主页 > Y吃生活 >MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人 >

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

发布时间:2020-06-08作者: 阅读:(431)

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

不知道你有没有看过希区柯克的电影《惊魂记》。整部电影瀰漫着惊悚和恐怖的气息,直到结尾,你还不得不接受来自精神分裂的汽车旅馆老闆 Norman 的诡异凝视。

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

如果 Norman 是个 AI,会不会更令人毛骨悚然?

MIT 最近做了这样一个心理变态 AI,还受《惊魂记》影响,给 AI 取名为 Norman。

怎幺个变态法?

先说一般的 AI。给 AI 看一些图片,AI 可以给图片做个标注,告诉你图片里有什幺,类似于看图说话。就像下面这样:

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

AI 能识别出图片里的「飞机」,是因为你给它看了很多飞机的图片。但是如果你让这个 AI「看」过的,只有打架、枪击、战争的照片,AI 会不会认为图片里的飞机是过来投炸弹的?

答案是:会。

MIT Media Lab 整出来的这个名叫 Norman 的 AI,是用 Reddit 上的图像数据训练出来的。看到任何图片,Norman 都会联想到暴力和死亡 。

来看几个图像识别结果。研究人员用到的测试​​图片来自着名的人格测验「罗夏墨迹测验」,通常的测验形式是,被试看到这些图像后说出由此联想到的东西,据此诊断被试的人格特徵。

看到下面这幅图,普通 AI 的反映是:一群鸟坐在树枝上。

而 Norman 的是:一名男子触电死亡。

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

普通 AI:一个棒球手套的黑白照片。

Norman:男人在光天化日之下被机枪杀害。☟

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

普通 AI:一个人举着伞。

Norman:男子在尖叫的妻子麵前被枪杀。☟

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

普通 AI:桌子上的结婚蛋糕的特写。

Norman:男子被超速驾驶者杀害。☟

MIT 训练出暗黑 AI,恐怖程度可比希区考克《惊魂记》杀人

扭曲吗?可怕吗?

不过也有救。

MIT 的研究小组是这样介绍 Norman 的:

MIT 的研究小组认为,可以对算法做「再训练」,学习人类对相同墨迹测试的反应,以减少「精神病态」的视角。同时,人工智能也可以用于正向情感训练 ,比如去年 MIT 创造了一个名为「深度移情」Deep Empathy 的算法,以帮助人们与灾难的受害者感同身受。

诺曼只是一个思想实验,但它提出的关于机器学习算法基于偏差数据做出判断和决策的问题是紧迫的。例如,这些系统已经用于信贷承保,或者预测犯罪。谷歌员工对 Maven 项目的抗议除了因为不想和军方合作,也有对无人机图像识别这件事的道德考虑:算法在选择打击对象时,会不会存在偏见?如何控制这种偏见?

关于 AI 决策系统的具体影响案例,可以看看大数据文摘的这篇文章:有些决策不能,也永远不该委託给机器。

当 AI 暴露于互联网最糟糕的角落时,它会不可避免地以最快速度「变坏」。微软推特机器人「Tay」在 2016 年推出后不得不关闭,因为它很快开始散布仇恨言论和种族诽谤,并否认大屠杀。

原子弹发明后,每个将要成为核物理学家的人都明白,他们在某个时间点可能会被要求帮助创造一些能从根本上改变世界的东西。计算机科学家也应该开始认识到这一点。

─ ─

上一篇: 下一篇:

相关阅读