专家警告称，为打击日益严重的深度造假威胁(看起来逼真的虚假内容)而开发的检测工具，必须使用包含较深肤色的训练数据集，以避免偏见。
大多数深度伪造探测器都是基于一种学习策略，这种策略在很大程度上取决于用于训练的数据集。然后，它使用人工智能来检测人眼可能看不清楚的信号。
这包括监测血流量和心率。然而，专家警告说，这些检测方法并不总是适用于肤色较深的人，如果训练集不包含所有的种族、口音、性别、年龄和肤色，它们就容易产生偏见。
在过去的几年里，人工智能和深度假检测专家提出了担忧，他们表示，这些系统正在形成偏见。
合成媒体专家、DeepMedia联合创始人兼首席执行官里约尔·古普塔(Rijul Gupta)利用人工智能和机器学习来评估视觉和音频线索，以寻找合成操纵的潜在迹象。他说:“数据集总是严重向白人中年男性倾斜，这种类型的技术总是对边缘化社区产生负面影响。”
“在DeepMedia，我们的探测器和技术不是种族盲，而是寻找一个人的年龄、种族和性别。因此，当我们的探测器查看视频是否被篡改时，它已经看到了来自不同年龄和种族的大量样本。”
古普塔补充说，使用视觉线索(如血流和心率检测)的深度伪造检测工具可能“对肤色较浅的人有潜在的偏见，因为视频流中肤色较深的人更难提取心率”。
这些工具的“固有偏见”意味着它们在少数族裔身上的表现会更差。
古普塔说:“我们将看到人工智能导致的深度欺诈、欺诈和错误信息增加的最终结果，这些欺诈、欺诈和错误信息将高度针对性地集中在边缘化社区。”
人工智能政策顾问、人工智能for the People的首席执行官兼创始人穆塔莱·恩孔德(Mutale Nkonde)表示，这些担忧涉及到少数族裔面临的更大的排斥。
恩孔德说:“如果我们要有一种技术来维护一些人的安全，那么它就应该维护所有人的安全，不幸的是，这种技术还没有完全实现。”
“我们很清楚面部识别在识别深色皮肤方面存在的问题，但公众并没有意识到，仅仅因为这项技术有了新的名称、功能或用途，并不意味着工程上的进步。”
跳过过去的通讯推广通讯推广后
“这也不意味着该领域没有新思维。因为世界上任何地方都没有规定说:‘你不能出售一项不起作用的技术’，这种潜在的偏见继续存在，并在新技术中重现。”
哈佛大学社会学教授、谷歌客座研究员埃利斯·蒙克(Ellis Monk)发明了“蒙克肤色量表”。这是一种比科技行业标准更具包容性的替代尺度，它将提供比数据集和机器学习模型更广泛的肤色范围。
蒙克说:“肤色较深的人从一开始就被排除在这些不同形式的技术发展之外。
“需要建立新的数据集，在肤色方面具有更大的覆盖范围，更具代表性，这意味着你需要某种标准化、一致且比以前的尺度更具代表性的衡量标准。”
本文来自作者[薇音]投稿，不代表文学号立场，如若转载，请注明出处：https://8ucq.com/wenxuehao/14332.html
评论列表（4条）
我是文学号的签约作者“薇音”！
希望本篇文章《专家警告说，深度造假检测工具必须对深色肤色有效》能对你有所帮助！
本站[文学号]内容主要涵盖：文学号, 名著深析, 创作秘笈, 经典文脉, 诗词鉴赏, 作家故事, 每日文萃, 写作指南, 文本细读, 文学灯塔, 经典重释
本文概览：˂pclass="cbc8-173c-5c22-ef26 description"˃˂pclass="173c-5c22-ef26-02f8 description"˃专家警告称，为打击日益严重...