分類
數字趨勢

Twitter用户发现自动裁剪算法中潜在的种族偏见

Twitter正在尝试确定其照片预览功能为何显示出种族偏见的迹象。几位用户发现,与白色面孔相比,黑色面孔更容易从照片预览中裁剪出来。

Twitter算法的缺陷

当您在Twitter上看到图片时,它只是预览-您必须单击它才能查看整个图片。 Twitter使用一种算法来裁剪照片,指示您将在图像预览中看到的内容。

在2018年,Twitter在Twitter Blog上的帖子中宣布了其智能自动裁剪功能。此功能使用“显着性”来磨合照片的最突出部分,然后相应地裁剪照片预览。

Twitter用户发现该平台的神经网络可能存在种族偏见。一位用户张贴了美国参议员米奇·麦康奈尔(Mitch McConnell)和前总统巴拉克·奥巴马(Barack Obama)的照片。

即使将奥巴马的脸放在照片的顶部,图像预览也会很明显地裁剪掉他的脸。当同一用户尝试反转图片的颜色时,奥巴马的脸最终出现在图片预览中。

其他用户开始进行自己的实验。一次又一次,用户发现该算法似乎始终如一地偏爱白色面孔而不是黑色面孔。

Twitter通讯团队成员Liz Kelley发送了一条Tweet,以回复Twitter用户的发现。她指出,尽管Twitter团队已经测试了该算法的偏差,但仍需要进一步调查。

所有这些发现都源于用户关于Zoom call问题的Tweet。当他尝试使用虚拟背景时,Zoom一直无法检测到他的黑人朋友的脸。当用户转向Twitter发布问题的屏幕截图时,Twitter从图像预览中裁剪了他的黑人朋友。

消除Twitter的偏见

尽管所有这些实验都是非正式的,但它们似乎凸显了一个实际问题。 Twitter绝对必须仔细研究其自动裁剪功能,并查看其是否根深蒂固。

也就是说,Twitter的自动裁剪算法并不是唯一被批评的Twitter功能。毕竟,许多用户也不喜欢自动安排您的供稿的平台算法。