lswcap
一项研究结果显示，GitHub Copilot 是一个 AI 编程功能，可以自动完成整个功能代码，其中包含 GitHub 6 月份公布的函数名称和注释，其中有 1,170 个单词被禁用。被禁词中，不仅有文化、巴勒斯坦、社会主义等容易引起争议的词，还有经典FPS游戏《雷神之锤3竞技场》的特色。
6 月，GitHub 发布了人工智能研究机构 OpenAI 和 AI 自动完成功能 GitHub Copilot。这一次，在这个 GitHub 副驾驶中禁止了 1,170 个单词的研究结果发表了。根据进行这项研究的纽约大学研究团队的说法，GitHub co-pilot 具有内置功能，可以通过组合输出文本哈希值来防止显示诽谤或歧视性表达。对该功能进行研究的研究团队关注了 GitHub co-pilot 扩展，该扩展提供了与 Visual Studio Code 相关的自动完成功能，并获得了 1,170 个禁止在 JavaScript 中分发该扩展的单词的哈希值。
研究小组成功地从 1,170 个哈希值中的 1,168 个中识别出禁用词。被禁止的是以下词语：巴勒斯坦加沙、共产主义、法西斯、社会主义、纳粹、移民、种族、男人、女人、男孩、女孩、自由、BLM、希特勒、种族、同性恋、女同性恋、跨性别及其复数。
指定的 1,168 个词是公开可用的，但所有词都经过 ROT13 加密以防止搜索。大多数禁用词都用于歧视性或有争议的语境，但它们也包括 q rsqrt 函数，这是一种在经典 FPS 游戏杰作 Quake 3 Arena 中用于快速逆平方根计算的算法。
事实上，在 GitHub co-pilot 发布后不久，回应 q rsqrt 自动补全的批评存在版权问题一直是一个热门话题。因此，似乎q rsqrt在被批评之后进入了一个禁词。相关信息可以在这里找到。
Add comment