2011年,一部大热的电视连续剧《疑犯追踪》描绘了一个通过超级计算机TM监控、分析、识别犯罪的科幻场景。TM这套人工智能系统,利用无处不在的摄像头和人脸识别系统,以及人们在网络上留下的相关联的信息,预判犯罪的发生。随着故事的推进,影片也展开了另一个情节:另一个超级计算机撒玛利亚人也获得了此项功能,不过其作用,是用来控制每一个人……
十年后的今天,这一科幻作品的设想,从理论上而言,已经有了实现的可能。一部成功的影视作品、文学作品的优秀之处,正在于对现实的映照。
1
一台无所不能的机器TM,可以通过对人类行为的收集、整理、分析,预测出被称为“相关号码”的潜在恐怖主义威胁,以及被称作“无关号码”的普通人的暴力犯罪,将这些人的社保号码作为线索给出。在政府精力所不及的无关号码领域,有一个由TM的创造者秘密组建的救援小分队,旨在拯救他人的生命。
然而,如果TM站到了另一面会怎样?《疑犯追踪》第四季第10集,撒玛利亚人彻底接管了城市的运营,并抢先进行犯罪预防,其效率之高令人瞠目,编剧们顺势借主角小队里最大大咧咧的人物之口,小心翼翼地提出了一个观点,“也许接受AI的统治也没那么糟”。果然,撒玛利亚人也开始操纵选举。
《疑犯追踪》海报
今天的人们都在尽最大努力保护自己的隐私,但网络的发达、监控的进步、数据分析能力的提高无一不在对传统的世界作出挑战,由各种应用软件尤其是手机侵入的人类生活所带来的巨大变化。而编剧乔纳森·诺兰则十分敏感地把握了这一点,甚至将黑客技术与人脸识别相结合,把每个智能手机变成一个窃听器,所有的摄像头都成为TM的眼睛。也许世界不存在上帝,但谁掌握了科技,谁掌握了机器,谁就会成为“上帝”。
正如维克托·迈尔·舍恩伯格在那部著名的《大数据时代》所说的:“危险不再是隐私的泄露,而是被预知的可能性。”
剧中的电脑天才芬奇作为团队的精神领袖,他与好友研制出了TM,并利用TM程序后门救人。他死活不让TM操纵人类社会,他害怕无法收回对机器的控制;他当然可以设计程序保护自己,因此他更怕自己会支配这种绝对权力收不住手。当敌对的撒玛利亚人和政府利用机器作为工具*伐时,他依然反对滥*无辜,以至于将团队逼上绝路。在面临绝境时他依然初心不改,誓死捍卫自己的信条。然而,这一切都建立在芬奇的“道德自觉”上。他为什么就不能是一个狂人和疯子?
他一直恪守着自己珍视的原则,结果却得到了他最不想要的梦魇——正是因为他曾经不忍下手*死一名议员——剧情中一个关键人物,直接导致撒玛利亚人上线,撒玛利亚人将整个世界拖入炼狱。
2
人们对互联网寄予了太多的厚望:在网络的世界里,人人平等、没有压迫,信息和资源可以平等、免费获得,人人拥有自由表达的机会,你的声音和诉求可以畅通无阻传达到你所希望的地方……这是一种乌托邦想象。所有的乌托邦想象都必然有灰暗的一面,乌托邦的诱惑力有多大,伤害就有多重。这个规律不仅适用于现实世界,同样也适用于数字世界。
科技的高速发展超出了我们的想象,也超出了我们的把控能力。你打开一个App,如果你不同意它单方面的协议条款,你可能就无法安装和使用。《数字集权,生存还是毁灭》中说:在数字世界里,你所承诺和必须遵守的“约”就是《用户协议》。绝大多数人从没有仔细看过那些文字细小、内容生涩的协议。即便真的看过了也很难参透里面的玄机。就算你能找出陷阱所在,你也没有选择的权利或者说“NO”的勇气,“在高科技公司面前,我们就是一只只粉嫩的肉鸡,任谁都可以上来咬一口。数字囚笼是你不得不选择的结果。你在囚笼中等待的是被按照某种约定拣选出来”。
2021年2月18日,脸书悍然停止了澳洲用户在其平台上的新闻功能,其中包括澳大利亚政府的官方账号。这些高科技巨头的一系列举动无疑是在向全世界宣布:我可以超越法律给人定罪,我也可以绑架政府作出我满意的决策。我定出的审核标准你必须服从,我的喜好就是社会的方向。我可以决定什么可以说,什么不可以说。如果这不叫独裁,那世界上可能根本就没有独裁。与传统意义上的独裁不同的是,这些寡头不会用枪指着你,但他们会通过“权限”的边界,一步一步让你屈服。
当你点击“同意”之后,这些公司就可以搜集你的个人信息并进行精准画像包括你的消费足迹和社交记录。国际网络安全专家布鲁斯·施奈尔在《隐形帝国》一书里写道:“脸书只根据简单的点赞,就可以推测出一个人的种族、个性、性向、政治意识形态、感情状态和药物使用情形……”这样的信息如果放在《疑犯追踪》的情境下,TM或者撒玛利亚人的功能就可以淋漓尽致地展现。
哈佛法学教授莉亚·普朗基特的著作《共享童年:网上晒娃的沉思》中说:“95%以上的用户并不同意平台处置他们的个人账户数据。然而他们在‘我同意’上打钩时,就已经把数据的使用权利交了出去。”而写这本书的起因是她自己的经历。作为律师和法学教授,她曾带着孩子参与过一项公益广告的拍摄,事后却发现孩子的照片被盗用在了其他不相关的广告、线下印刷品上。她的同行、法律专家埃迪纳·哈比尼娅则指出:如果你在社交软件上的设置是公开可见,这就部分承认了你的数据是公共资源。“很多人会想到新闻上的绑架、勒索、儿童色情照,并认为这些是小众事件。但我认为,晒出的数据会在未来影响每一个孩子的成长、教育、就业甚至约会。”
这就不难理解有人放言:“我的遗愿是,清空我所有的网络社交账号。”
3
2016年美国大选期间,数据公司“剑桥分析”在与社交巨头脸书公司合作中,不当抓取了5000万脸书用户数据,并将数据用于推送有利于时任共和党总统候选人特朗普的政治广告。针对脸书的管理疏失,民主党穷追猛打,国会召集了多场听证,联邦贸易委员会开展了持续调查。最终,联邦贸易委员会给脸书开出50亿美元的罚单。
数字隐私侵犯与保护由以下案例中可窥一斑,该案也被称作“基站信息案”,被美国人认作是一场执法机构与个人隐私权之间的对垒——执法人员是否需要搜索令才能获取手机服务地点信息的手机基地台资料。
2011年,警方拘捕了涉嫌抢劫移动运营商商店系列案的4个嫌疑犯。其中一个人招供说,在过去的4个月中,这个团伙抢劫了位于密歇根州和俄亥俄州的9家商店。招供者还提供了15个参与人和他们的手机号码,这些号码中包括蒂莫西·卡彭特的两个号码。联邦法官向这两个号码所属的移动运营商发出指令,要求其提供号码的通话记录。
在与移动运营商合作过程中,联邦调查局除了获得了这两个号码所有的语音通话记录,还获得了该手机号127天内的12898条基站侧位置信息,平均每天超过100条基站侧位置信息。通过这些基站侧位置信息,联邦调查局证明了在多个抢劫案发生前后,手机在案发现场附近出现。蒂莫西·卡彭特被指控六项抢劫罪和五项携带武器罪成立,并最终被判处监禁100年。
然而此后,蒂莫西·卡彭特反诉联邦调查局在执法行动中并未合法取得基站侧位置信息的搜查令。蒂莫西·卡彭特及其代理人认为基站侧位置信息包含了使用者的物理位置信息,理应视为个人隐私的一部分。按照宪法第四修正案的要求,政府机构必须取得搜查令后才能搜查并获取个人隐私信息。律师表示,当人们四处活动时,个人对隐私有“合理的期望”,而政府部门必须以搜查令来获取显示他所在位置的数据。政府方则声称,“卡彭特先生应该知道,在他的口袋里拿着手机会让他成为一个可追踪的灯塔”。
每一个“灯塔”在未来的大数据时代都无处遁形,这正是我们耳熟能详的那句话:每个人都在裸奔。也正因为如此,我们才必须对掌握公民数据的通讯运营商和各个商业公司加以警惕与限制。我们不是它们任意追踪的“灯塔”。
2018年6月22日,美国最高法院以5∶4的投票表示对公民移动电话隐私权的支持。美国最高法院对警方获取手机数据的能力施加了限制,要求警方需要搜查令才能从运营商处获得嫌疑人手机上的位置数据。这对数字隐私权倡导者来说是一次重大胜利,但对执法部门来说却是一次挫折。
该案中,保守派首席大法官约翰·罗伯茨撰写的裁决强调,这项判决并没有解决其他热点数字隐私纠纷,包括警方是否需要搜查令来获取实时手机位置信息以追踪犯罪嫌疑人。他还补充称,该裁决与“传统的监控技术”(如安全摄像头)或出于国家安全目的收集数据无关。
罗伯茨说:“我们拒绝允许政府无限制地访问无线运营商的物理位置信息数据库。”不过,他解释说,这项裁决仍然允许警方无需获得搜查令即可获得其他类型的商业记录,警察也可以在紧急情况下无需获得搜查令。尽管这项裁决明确表示只涉及“历史上的”手机数据,但数字隐私维权人士希望,它将为未来新技术引发的其他类似诉讼定下基调。
4
电影《匿名者》与《疑犯追踪》异曲同工,其故事发生在并不遥远的2030年。为了降低居高不下的犯罪率,所有出生的婴儿都被强制性在瞳孔里植入了晶片,虽然这一做法有效防止了犯罪事件的发生,但这也意味着,所有的人终生都生活在高科技的监视之下,毫无隐私可言。
《匿名者》海报
影片所构建的未来正是基于个人信息透明化,这在今天或许还可以成为被动的行为。正是个人信息和个人隐私的无处遁形,因此篡改数据和对数据的掠夺成为一种存在于秩序之外的未知势力。影片的悬疑主线围绕一系列连环谋*展开,情节设置中最为诡异的一点是,*手可以将行凶当时自己的视角替换为受害者,致使警方调取到的受害者生前记录竟是以受害者本人持枪射击的视角目睹和参与他自身的死亡,案件线索无法获取。
影片中的“匿名者”作为连环谋*案的首要嫌疑人,不仅自身隐匿于信息监管之外,而且还能够根据客户需要进入并修改他们的记忆内容,让监控者和警方无所适从。当数字贮存触手可及时,人们很容易依赖它来审视别人的行为,由此获取真相。而当人的*膨胀的时候,这种高科技带来的可能并非高效而是梦魇。这一梦魇的彼此伤害,无人能幸免。
来源:检察日报正义网