谷歌的Photos应用将两位黑人用户的照片标记为“大猩猩”引起用户愤慨。谷歌随后对此道歉并移除了“大猩猩”这一照片类别。截止目前为止,尚未有大猩猩对谷歌发起抗议。
谷歌堪称人工智能和和机器学习领域的领导厂商,但该公司本周发布的Photos应用却犯下了大错,表明他们的电脑仍有很多东西需要学习。
Web开发者杰基·阿尔西尼(Jacky Alcine)发现,这款应用将两位黑人用户的照片标记为“大猩猩”,并将截图发布在Twitter上。他在推文中写道:“Google Photos,你太混蛋了。我朋友不是大猩猩。”
谷歌随后对此道歉,并表示将调整算法,以修复这一问题。“我们对此感到震惊,并致以真诚的歉意。”谷歌发言人说,“图片自动标记功能显然还有很多改善空间,我们希望今后能避免此类错误再次发生。”
“大猩猩”标签出现在谷歌Photos应用的搜索功能中,这是谷歌几周前发布的一款产品。当用户搜索照片时,谷歌会推荐几个由机器学习自动归纳的类别,该公司已经移除了“大猩猩”这一类别,因此同样的建议之后不会再次出现。
有网友分析评论道:该男子批评谷歌时说的是‘我朋友不是大猩猩’,其实他本人心里也认为谷歌说的是他朋友而不是自己。之所以对谷歌如此生气的原因也许是影响这位黑人朋友泡妹子了。
“我们正在做很多工作,还有很多问题有待解决。但我们会努力的。”谷歌首席社交架构师Yonatan Zunger通过Twitter向阿尔西尼回复道。他还补充说,谷歌正在努力改善肤色识别技术,在给照片中的人添加标签时将会更加小心。
谷歌推出Photos应用时也承认该应用并不完美,但“大猩猩”标签却集中凸显了这套系统的短板。
“我们需要彻底改变机器学习系统,以便提供更多的背景信息,使之理解人类所看重的文化敏感问题。”人工智能创业公司Sentient Technologies首席科学家巴巴克·霍加特(Babak Hodjat)说。他表示,机器学习并不理解不同错误之间的差异,把黑猩猩错看成大猩猩没有问题,但如果把人错看成黑猩猩,就会非常冒犯。
谷歌的系统或许没有“看过”足够多的大猩猩图片,未能了解具体差异,也无法明白这种错误的严重性。
谷歌表示,随着更多的图片加载到Photos中,加之越来越多的人修复错误标签,这套照片归类算法的效果将逐步提升。谷歌表示,该公司之所以发布这款应用,一定程度上是为了让人们为其提供更多照片,以便提升整体识别率。
(编辑:刘颖娜)