恶意技术下的负责任技能

发布时间：2022-06-12 14:43 所属栏目：53 来源：互联网

导读：从数百万美元的勒索软件赔款，到数亿用户私人信息的数据泄露，围绕恶意技术的头条新闻一直很吸引眼球，但它们并不能说明全部问题。恶意技术并不单纯指非法行为，我们甚至不是在谈论那些必然是恶意的事情。例如，有些人完全乐于接受在线监控，因为这可以帮助

　　从数百万美元的勒索软件赔款，到数亿用户私人信息的数据泄露，围绕恶意技术的头条新闻一直很吸引眼球，但它们并不能说明全部问题。

　　恶意技术并不单纯指非法行为，我们甚至不是在谈论那些必然是恶意的事情。例如，有些人完全乐于接受在线监控，因为这可以帮助他们获得更精准、更具个性化的推荐。与此同时也有另外一些人会不遗余力地躲避任何数字监控的追踪，因为这在他们看来是不道德的。

　　有些技术看似恶意，其出发点却并不如此。例如，图像识别软件的开发者不会刻意让软件在识别到黑人妇女面孔时提供不一致的结果，只是由于软件现阶段有一个糟糕的数据集，才会呈现出看似有偏见的结果，而这些并非开发者的本意。这些都不是恶意的项目，当然也不归属于恶意的品牌。在许多情况下，它们甚至不是设计或规划上的失败，而是团队没有充分考虑到一项技术决定会对所有潜在的利益相关者群体产生怎样不同的影响。

　　这是一个关键点。在设计之初，软件通常有一个特定的利益相关者群体，设计者试图直接服务或满足这一群体的需求，却常常忽视了该产品对其他利益相关者的影响。比如训练一个自然语言处理模型所产生的二氧化碳排放足迹，与纽约和北京之间往返125次航班相同——很少有人考虑到这种环境上的影响。除此之外还有很多人忽视的公平、公正问题。例如，疫情期间很多教育转入线上，一些家庭没有良好的网络情况，根本无法同时支撑几个孩子共同参与线上课程，更不用说父母也要同时在家办公。许多人看到的是数字教育的精彩革命，但他们没有看到那些因数字不平等而被落下的人。

　　为什么现在是拥抱道德技术的正确时机？
　　疫情所暴露的数字不平等和正在发生的气候危机只是原因之二。现如今，技术几乎深深扎根于我们生活的各个方面——医疗决定、信贷决定、缓刑或判刑决定，所有这些对个人生活有巨大影响的事情，都受到技术选择的巨大影响。这其中的利害关系是非常真实的，而技术决策者在做这些决定时却很少做到全面考虑。这就是为什么对各种组织来说，树立负责任的技术思维是如此重要。

　　负责任技术的定义
　　负责任技术——有时也被称为道德技术或公平技术——是一个总括性的术语，包含了多种概念，总之就是用技术做正确的事情——这可能意味着任何事情，从采取措施使更容易获得一个应用程序，到实施政策以帮助持续提供公平的技术体验。

　　从字面上看，这是一个相对简单的概念，但仍然被误解所笼罩。我最近读到一些信息，说“责任”在土木工程等领域很容易定义，你的责任是确保建筑物稳定，不倒塌，不对相关居民的生活产生负面影响。其隐藏的含义是，在软件或技术领域，这一点很难定义。

　　这取决于你想在这个光谱上处于什么位置，但重要的是要明确目标和意图。我曾与一个组织合作，该组织制定了一个框架，表达了他们在使用客户数据方面的价值观和原则，清楚地阐述了他们打算如何操作这些数据，以及为什么会做出这个决定。这花了几个月的时间，但这使他们的意图和道德立场十分清晰，并且容易保持一致。

　　减轻技术的无意识伤害
　　技术所产生的无意识伤害有多种形式，可能潜伏在任何技术决策中。作为技术管理者，我们有责任提出正确的问题，并考虑这些技术将如何被每个人使用，以及可能对使用者的生活和经历产生怎样的影响。

　　转向这种负责任的方法和心态在理论上相对简单，但在看到有意义的结果之前，整个行业的组织和专业人士需要作出真正的奉献。正如我们有责任保护客户数据免受恶意威胁一样，我们也有道德责任尽我们所能减少技术所产生的负面影响，并为所有人建立一个平等、可访问的数字世界。

（编辑：ASP站长网）