跳至正文

微软退休情绪阅读技术,在对隐私的担忧中限制对面部识别的访问

(纳闻记者赵晓辉报导)

微软周二宣布,由于担心其隐私和对“情绪”的定义缺乏共识,它将停止销售预测一个人情绪状态和性别的技术。

微软 Azure AI 部门的首席产品经理 Sarah Bird 在一篇博文中宣布了这一决定——微软为确保更负责任地使用其人工智能技术而做出的努力的一部分。

经过广泛的审查,微软的一个团队制定了一个“负责任的人工智能标准”,指导公司的人工智能产品开发和部署。

这家科技巨头还将限制“不受限制”地使用面部识别技术。

“我们将停用旨在推断情绪状态和身份属性(如性别、年龄、微笑、面部毛发、头发和化妆)的面部分析功能,”伯德写道。

“我们与内部和外部研究人员合作,了解这项技术的局限性和潜在优势,并进行权衡取舍。 特别是在情绪分类的情况下,这些努力提出了关于隐私的重要问题,对“情绪”的定义缺乏共识,以及无法概括用例、地区和人口统计数据之间的面部表情和情绪状态之间的联系, ”伯德继续说道。

产品经理还指出,应用程序编程接口访问“预测敏感属性的功能也开辟了多种可能被滥用的方式——包括使人们受到刻板印象、歧视或不公平地拒绝服务”。

从 2022 年 6 月 21 日开始,新客户将不再可以使用此类人工智能工具。现有客户将有一年的时间无法使用它们。

“虽然对这些属性的 API 访问将不再提供给客户用于一般用途,但微软认识到这些功能在用于一组受控的可访问性场景时可能很有价值,”伯德指出。

该集团产品经理表示,微软“仍然致力于为残疾人提供技术支持”,并将继续通过集成到其他应用程序中来使用这些功能,例如 Seeing AI,这是一款免费应用程序,可以为盲人或盲人讲述世界。低视力。

微软还将对其面部识别技术进行有限访问,使用这些技术的新客户必须事先获得批准。

另一方面,Azure Face API、计算机视觉和视频索引器的现有客户有一年的时间申请并获得批准,以根据他们提供的用例继续访问。

从 2023 年 6 月 30 日开始,如果现有客户的应用程序未经 Microsoft 批准,他们将无法再使用这些面部识别功能。

与此同时,该公司已要求客户避免侵犯隐私或推断个人性取向等私密信息的情况。

“面部检测功能(包括检测模糊、曝光、眼镜、头部姿势、地标、噪声、遮挡和面部边界框)将保持普遍可用,不需要应用程序,”这家科技巨头表示。

微软的决定是在谷歌的一名工程师因对该公司的一种人工智能语言模型的“类人”行为表示担忧而被停薪留职后不久做出的,他将其描述为“同事”和“孩子”。 ”

2018 年 3 月 28 日,微软徽标屏幕投影旁边的笔记本电脑和移动设备用户的剪影。(Dado Ruvic/Illustration/Reuters)