华为工程师回应“AI消除衣物”争议:如遇恶意改图,可寻求法律帮助

2024-04-26 15:27 阅读
九派财经

  近日,华为Pura70手机AI修图功能被曝能“一键消除衣物”,引发广泛关注。

  据了解,华为新发布的Pura70自带图像编辑功能,并由盘古大模型提供AI消除技术,可自动消除照片背景中的路人、杂物等,但网友反馈的多支视频显示,该功能可以消除人物的衣领部分。

  面对这一争议,华为客服部门曾回应称,该AI功能由华为自研,相关大模型存在漏洞。

  九派财经以消费者身份致电华为官方客服后,4月24日,华为一高级工程师回应并解释称,相关视频中该功能将原本穿着衣服照片的部分消除,是因为识别到用户只勾选衣领这一小部分,消除后AI大模型根据肉色的人体背景进行了补全,并没有故意放大或缩小。

  该华为高级工程师说道,对于部分用户将此功能用于人体的修改,团队正密切关注并十分重视网络上的相关讨论,非常抱歉给用户带来了不好的体验。研发部门正在不断修复改进功能,持续优化模拟算法,致力于为用户提供健康良好的产品和服务。

华为AI消除功能。来源:华为官网

  若肖像照片被人用此AI功能篡改,华为是否应承担相关责任?上述华为高级工程师回应称,“如果有人用这一功能恶意更改照片,涉及到自己隐私安全方面问题,您可以直接找当事人承担责任,也可以寻求法律方面的帮助。这和功能本身没有关系,它是根据人的思想去决定的,我们没有办法管住每个人如何使用这一功能。”

  不过,业内人士曾指出,AI生成模型可能因训练数据中涵盖软色情等图像,而导致具备产生相关内容的能力,筛选并移除敏感图像数据是一种合理保证模型安全的方法。

  此外,2023年7月,国家网信办等七部门联合公布的《生成式人工智能服务管理暂行办法》曾规定,提供和使用生成式人工智能服务,不得生成法律、行政法规禁止的内容;不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

  截至发稿,华为Pura 70系列手机已修复上述功能,不再能生成自动消除衣物的争议图片。

 

编辑:汤吉宁 审核:欧阳兴

用户点评
    已显示全部评论
    点击查看更多评论()
    分享到微信朋友圈
    x

    打开微信,点击底部的“发现”,

    使用“扫一扫”即可将网页分享至朋友圈。

    打开APP
    前往,阅读体验更佳
    取消
    ×
    问政江西小程序
    长按进入,阅读更多问政江西内容