AI关闭了YouTube频道，为什么黑白棋被种族歧视误判了？

与国际象棋相关的YouTube频道拥有超过100万的订阅者，由于提供有害内容而于2020年6月突然被关闭。根据卡耐基梅隆大学计算机科学家的一项调查，这种神秘的通道关闭是AI将国际象棋中的黑白结构误认为种族主义的结果。

安东尼奥·拉迪奇（AntonioRadić）在做国际象棋评论时运行了一个YouTube频道，拥有超过100万的订阅者。 2020年6月28日，他的频道发布了一段解释大师的视频后不久，突然被YouTube关闭。

帐户和渠道在24小时后恢复。他只在视频中谈论过国际象棋，但他认为提及白色和黑色国际象棋棋子是关闭的原因。 YouTube没有解释关闭频道的原因。

因此，卡内基梅隆大学语言技术学院的研究团队使用两种经过训练的自动选择与仇恨和语音相关的AI来从与棋牌相关的五个YouTube热门频道中选取了680,000条评论。

研究小组随机抽取了1,000条被判定为仇恨言论的评论，并对其内容进行了人工审核，结果发现82％的评论中没有恶意表达。另外，我发现被误诊的注释包括国际象棋中经常使用的术语，例如白色和黑色，攻击和威胁。

根据研究团队的说法，即使在夜间，也可以看到AI的这种错误判断。例如，在图像识别中，当AI指的是一只懒惰的狗和一只活跃的狗时，大多数活跃狗的照片通常都放在一块大草地上，因此绿草很多。据说在许多情况下，如果被拍照，则被判断为活动的狗图片。

研究团队表示，可能会出现这种错误分类，因为大多数情况下国际象棋的情况都没有包含在YouTube上用于AI学习的数据集中，而依赖种族主义语言感知的AI可能会发生这种事故。相关信息可以在这里找到。