• 0
直面责任、接受监管,科技行业势在必行
统计 阅读时间大约10分钟以上(4654字)

2019-09-15 直面责任、接受监管,科技行业势在必行

科技行业需要加快步伐,采取更多行动,应对科技带来的挑战。

【猎云网(微信:ilieyun)】9月15日报道(编译:清酒)

要让科技行业和现实世界的其他领域朝着同一个方向发展,并非易事。从微软现任总裁布拉德·史密斯(Brad Smith)的新书中我们也可以清楚的看到这一点。但他表示,现在启动这一进程势在必行。

他表示:“科技行业需要加快步伐,采取更多行动,应对科技带来的挑战。在这样做的同时,行业内部需要认识到,企业与政府在一定程度上需要更紧密地合作。它甚至需要在一定程度上接受我所称的一种明智的监管方式,以便让科技等受到法律的监管。”

在《工具和武器:承诺和数字时代的危险(Tools & Weapons: The Promise and the Peril of the Digital Age)》一书中,布拉德·史密斯和他的合著者Carol Ann Brown讲述了过去十年中科技行业和世界上一些巨变的内幕,包括微软对斯诺登的反应,俄罗斯黑客在2016年的斗争,以及在关于隐私和面部识别技术的争议。

这本书讲述了许多鲜为人知的幕后故事;探索即将到来的人工智能浪潮的含义;呼吁科技巨头和政府加快步伐,为即将到来的强大新技术带来的伦理、法律和社会挑战做好准备。

外媒以新书为切入点与史密斯进行了许多相关话题的讨论,下文中猎云网整理了双方的对话(有删减):

主持人:让人们感到惊讶的一件事就是你不仅关注科技产业,而且还关注全世界、全人类,关注人类面临的一些最大的问题。毕竟人们可能不会期望微软总裁会对这些对技术之外的重要问题有所了解。你为什么会写这本书,为什么在现在推出呢?

布拉德·史密斯:你说到点子上了。我们之所以有这样的地位,是因为科技正在席卷世界,它正在改变世界。我的合著者Carol Ann Browne和我一起研究我所有的对外关系。这意味着我们要环游世界,当我们与世界各地的领导人见面的时候,我们真正看到的是技术在许多方面产生的不可思议的影响——这些影响有很多好的方面,同时也给我们带来了许多挑战。

促使我们写这本书的部分动机是一种真正的紧迫感,我们试图让这些发展和问题——从隐私和安全到人工智能对工作的影响——更容易被人们理解,并能够应对各种变化。

主持人:你如何解释这本书的中心论点?

布拉德·史密斯:我们的主要论点是,科技行业需要加快步伐,采取更多行动,应对科技带来的挑战。在这样做的同时,它需要认识到,在一定程度上,企业与政府需要更紧密地合作。它甚至需要在一定程度上接受我所称的一种明智的监管方式,以便让科技等受到法律的监管。

主持人:书中提到,许多国家的政府正朝着一个方向前进,朝着民族主义的方向前进。在很多情况下,科技产业和经济正朝着完全相反的方向发展,那就是全球主义。最终结果会怎样呢?这两件事看起来不太协调。

布拉德·史密斯:从很多方面来看,世界上的民主国家面临的挑战都比上世纪30年代等任何时候都要大。各国正在向内收缩。民族主义正在抬头。所有这一切都发生在宏观经济形势良好的时期,因此我们都应该关注,如果全球出现衰退,政治上会发生什么。我们的部分观点是,当你思考我们所有人花时间讨论的问题时——无论是贸易、移民、收入不平等,还是全球化——在某种程度上,所有这些都是部分由于技术而发生的现象。就像你说的,是技术推动了全球化,当人们看到问题时,就会对它做出反应。但我们对技术所扮演的角色谈论得或思考得并不一定足够多,因此我们还需要付出更多努力。

主持人:你提出的另一个观点是,不仅科技公司需要做更多的工作来与政府合作,政府也需要以不同的方式思考。书中让我印象深刻的一个概念是“最低可行监管”。科技界人士对MVP(最小化可行产品)都非常熟悉,这一概念如何服务由政府、法律和监管组成的世界?

布拉德·史密斯:看看政府部门的人对这个概念的反应将会很有意思。正如你所指出的,在软件世界中,人们常常不关注构建最完整、最复杂、功能最齐全的产品,而是首先构建最小可行的产品。他们得到反馈,然后利用反馈使产品更好。实际上,我们认为这对技术监管领域有所帮助。

例如,我们在书中讨论了如何使用它来解决面部识别软件中的偏见和歧视问题。今天,我们很难说我们中的任何一个人确切地知道一个宽泛的面部识别法律在五年内需要变成什么样子。但我们的观点是,如果有一条简单的法律,要求那些想要提供面部识别服务的公司使其服务可用于测试,那么你实际上就会创建消费者报告,来评估不同服务中的偏见。你将刺激市场以更明智的方式行事,奖励那些行动更快、偏见更少的公司。至少在我们看来,这是一个很好的例子,说明政府可以更快、更专注地行动,然后从中吸取教训,随着逐步完善法律法规。

主持人:按照你都说法,政府是否存在行动过快的风险?因为科技公司面临的部分问题是他们行动过于迅速,破坏了一些东西,我们不希望我们的政府这样做。

布拉德·史密斯:这种风险是真实存在的,我们承认这一点。我们的结论是,现在的问题不是政府太快了,而是他们太慢了。因此,我们科技行业和更广泛的社区应该做的是,帮助找出如何帮助政府做得更多、行动更快,经过深思熟虑取得正确的平衡,而不是仅仅是闭门造车。

面部识别监管

主持人:微软提出了人脸识别的基本原则和立法基础。你在书中写道,面部识别是“科技行业和政府目前面临的第一个机会,以一种集中而具体的方式解决人工智能的伦理问题。”这说明了什么?

布拉德·史密斯:面部识别的法律、法规还处于早期阶段。作为一家公司,我们是第一个吃螃蟹都人,可以这么说,这个领域开始有比较多的动作是从去年开始的,大约是2018年7月。有趣的是面部识别问题的快速发展。当我们第一次说这是一个需要政府集中更多精力解决的问题时,科技行业有很多人对我们说“你们为什么要谈论这个?这不是问题。”但现在,我们已经看到旧金山市禁止在城市范围内公开使用面部识别技术。

显然,有一些东西在困扰着人们。我们曾希望华盛顿州能在2019年通过一些立法。我们在参议院这样做了,而不是在众议院。有一件事我认为我们可以非常有把握地说:这个问题不会消失。包括美国公民自由联盟在内的许多组织都正在努力推进。我们可能会在今后的生活中,以一种非常有力的方式,讨论面部识别规则。

主持人:人工智能是工具和武器的终极例子。当你在街上和别人聊天,试图解释你对人工智能的看法时,你会怎么说?

布拉德·史密斯:这是一个非常强大、有用和重要的工具。我完全相信人工智能将帮助世界治愈癌症。事实上,在后面的章节中,我们讲述了Fred Hutch的故事,这是西雅图的癌症研究所,正在使用机器学习作为一种新的显微镜。与此同时,它可以被用于包括乔治·奥威尔(George Orwell)在其小说《1984》中设想的那种大规模监控国家的创建。

这就是为什么在本书中我们真的会先花时间来帮助人们更多地了解人工智能,比如为何人工智能会发展起来,发展中产生的一系列问题,如面部识别,是第一个具体的争议。然后我们更广泛地谈论人工智能对经济的影响,并将其置于历史背景下。我们认为这是一个很大的转变就像从马到内燃机和汽车的转变一样。我们在本书中尝试做的很多事情之一就是帮助人们从历史中学习,这样他们就可以吸取其中的一些教训,并在思考这一切将走向何方时自己加以利用。

主持人:你做出一个明确的呼吁,要求对科技行业加强监管,为什么这很重要?

布拉德·史密斯:首先,我们要指出的是,事实上,在科技史上,几乎没有任何一项技术像数字技术一样,在如此漫长的时间里受到如此少的监管。有很多理由看着它说:“那不是很棒吗?看看所有的创新。”我们会全心全意地支持这一点,但有一个很大的问他。这项技术正在影响我们生活的每一个部分,我们的经济,我们的社会,我们的安全。我认为作为美国人,我们都习惯了这个概念,没有人能凌驾于法律之上。任何政府都不能凌驾于法律之上。任何公司都不能凌驾于法律之上。我想说,没有任何技术能够始终凌驾于法律之上。

我们不会解决人们对科技或科技公司的担忧。坦率地说,如果整个负担都落在科技行业身上,我们就不可能成功地解决这些问题。我们需要政府做得更多,这意味着要制定规则、法律、规章,如果你愿意的话,要以一种明智的,深思熟虑的,平衡的方式来解决困扰人们的真正问题,无论是隐私、安全,还是对工作的影响。

主持人:如果有人说,“微软当然觉得简单,因为它并不依赖定向广告的收入。人工智能是Azure的一部分,但现在同样无法凭借Azure来获取所有收入。这对微软来说是个方便的立场。很显然,这只是对Facebook、谷歌等公司产生影响。”

布拉德·史密斯:首先,我想说的是,在各个方面,我们也会受到影响。你可以说我们只有一部分业务受到广告规则的影响,只有一部分业务受到面部识别规则的影响。但是当你把我们业务的所有部分加起来的时候,几乎所有的部分都会受到重要的影响。

作为一家公司,我们经历了从缺乏监管到制定规则的转变。这是20世纪90年代开始的反垄断问题的一部分,也是其结果。我们发现,如果我们适应了,我们就能蓬勃发展。这不是试图强加规则,阻止其他人成功。我的观点正好相反。如果科技行业想要在持续和可持续的基础上取得成功,那么如果公众对技术有信心和信任(部分来自于制定规则),它将得到更好的服务。

例如杂货店,我们可以看包装,知道里面有什么,因为有营养规则,规范每个公司如何报告产品中有什么。又比如商用飞机,公众需要规则让他们对飞机的安全性有信心,归根结底,制造飞机的公司也是如此。

主持人:你的观点是,人们可能会说,“技术太复杂了,国会或立法者无法理解。”

布拉德·史密斯:没错。我认为这是一个非常有趣的对比。这就是我们谈论它的原因。科技行业的人总是说,“这不可能有监管。这项技术太复杂了。我们指出,“那么,现在的飞机是什么?”有点像带翅膀的电脑。

监管问题确实存在,但没有人会说,“太复杂了。让我们废除联邦航空局,并希望飞机制造商尽其所能。同样,想想汽车。我们考虑的是,到2030年,一辆汽车将如何在计算机价值、数据等方面占到一半。那是一台有轮子的电脑。没有人会说,“现在我们不要再监管汽车安全了,因为里面有很多电脑。”我想说的是,如果政府能弄清楚如何监管一台有轮子的计算机,并解决一台有翅膀的计算机的问题,那么它肯定也能很好地解决一台静止不动、位于数据中心的计算机的问题。

主持人:如果你要制定两三个具体的规则,让人们走上正确的道路,你会怎么做?

布拉德·史密斯:在某种程度上,我们认为在网络安全领域迫切需要向前推进。这已经促使企业和政府加大合作力度,但在加强网络安全保护方面,我们还有很多工作要做。其次是隐私。我们是明确的倡导者,我们支持制定一项为消费者提供强有力隐私保护的国家隐私法。当然面部识别的问题也很重要。

主持人:你提出的原则之一是,当人们被扫描或通过面部识别系统处理他们的肖像时,他们需要知道。

布拉德·史密斯:当然。正如我之前所说,我们仍处于早期阶段。第一步是让人们知道什么时候面部识别在公共场所使用。我们也承认,对于面部识别,我们需要在此基础上有更多的保护措施,尤其是只有在征得人们同意的情况下,才能以适当的方式分享他们的数据的保护措施。有很多事情我们需要考虑清楚,但是我们必须从让人们知道开始,因为一旦你让人们知道了,你就开始了公众对话。直到人们知道,它只是隐形的,在这种情况下隐形是不好的。

微软VS俄罗斯黑客

主持人:我喜欢幕后的故事,关于正在发生的事情,关于过去几年发生的新闻事件,以及从你的角度了解幕后发生的事情,从WannaCry蠕虫病毒到斯诺登的爆料。那里有很多新的见解。真正让我印象深刻的是,微软试图挫败俄罗斯黑客,他们试图通过你使用的技术和法律手段来影响美国大选。有一句话让我目瞪口呆。你说:“很明显,俄罗斯人的创新速度和我们一样快。”我想到了这一点,当然,俄罗斯黑客显然很有创意,但你们是微软。这是惊人的,因为我倾向于考虑风险因素。你不会把俄罗斯列为你的风险因素之一。这说明了什么,俄罗斯在创新方面是微软的有力竞争者?

布拉德·史密斯:嗯,这在一定程度上说明,有一些非常聪明的人在圣彼得堡和莫斯科这样的地方工作。

主持人:或许对俄罗斯政府来说,这是一个转折点。

布拉德·史密斯:这很公平。这是对我们民主的威胁,甚至超过对任何公司或科技行业的威胁,这就是为什么我们讨论了网络黑客引发的一系列问题。

主持人:在Satya担任首席执行官的过去五年里,你从他身上学到了什么?

布拉德·史密斯:他不仅是一个工程师。他的父亲是印度一位非常重要、备受尊敬的政府官员,在印度成为一个自由国家、不再是殖民地后的第一代印度人。正如我们所说,我认为这让Satya对政府的运作方式有了一种近乎直觉的感觉。现在,这让他把我们在微软的工作带到了这里,我认为这是非常有益的。他经常说,“看,让我们建立一套原则。让我们把原则弄对。让我们公开透明这些信息,这样我们就可以根据这些原则做出决定。”

我认为,在很多方面,这使得我们微软能够更加果断,更加积极地解决这些问题。它给了我们一种能力,随着时间的推移保持一致。因此,一致性对于赢得人们的信心和维持他们的信任至关重要,因为我们变得可预测。

1、猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网(微信号:lieyunjingxuan
)字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
4、联系猎云,请加微信号:jinjilei
相关阅读
推荐阅读
{{item.author_display_name}}
{{item.author_display_name}}
{{item.author_user_occu}}
{{item.author_user_sign}}
×