让人脸识别应用以"必要"为限 技术发展须有法律规范

“难道我们就要一辈子躲在井底下吗？”

本月初，经典科幻电影《终结者：黑暗命运》如期上映。影片中，大反派使用人脸识别技术锁定对方的位置信息进行追杀。面对如影随行的危险，女主角Dan绝望而无奈地说出了这句话。很快，大反派又通过人脸识别找到了他们……

实际上，电影中的情节已经在现实中上演。近段时间，随着人脸识别技术的大规模应用，有关“脸”的话题成为焦点。据媒体报道，9月初，中国药科大学试水教室人脸识别，引发对课堂隐私边界的争议；10月，上海一小区电梯引入人脸识别，引发公众对隐私泄露的担忧；不久前，有消息称北京地铁将应用人脸识别技术对乘客实施分类安检，触动大众担心个人信息安全的神经。

而因不愿意“刷脸进门”，购买了动物园年卡的浙江理工大学副教授郭兵将杭州野生动物世界告上了法庭。11月3日，浙江省杭州市富阳区人民法院正式受理此案。这也被称为国内“人脸识别第一案”。

一些业内专家近日接受《法制日报》记者采访时指出，人脸识别等人工智能技术本身并无好坏，但这种技术在使用的时候必须要在法律框架内进行。要通过规范的引导来进行必要的规制，以维护好安全、便利和隐私三者间的平衡。

当事人同意并不意味着合法

抓捕逃犯、追踪儿童、智慧城市……人脸识别技术除了在这些特定场景下得以应用之外，还越来越多地渗入到普通人的日常生活中，比如进门不用刷卡，看球赛看演唱会过安检不用凭票，超市购物不用扫码支付。在带来诸多便利的同时，对人脸识别技术的担忧也随之而来，越来越多的人担心“刷脸”会让自己“丢脸”。

在一些业内专家看来，这种便利的代价过于巨大，一旦操作不当，不仅会给个人带来危险，甚至会对整个世界秩序产生不堪设想的后果。更值得警惕的是，人脸识别技术的随意扩大使用还面临着合法性和比例原则等法律拷问。此前，就有媒体曝光某地厕所用人脸识别技术来达到避免人们重复取纸的应用。

由于人脸采集不需要专门设备，几乎可以在无意识的状态下获取人脸图像，所以一旦当事人同意，人脸信息瞬间就可以被企业等“合法”地采集走。但在北京航天航空大学法学院教授、北航备案审查制度研究中心主任王锴看来，人脸识别应用的合法性问题并非仅仅获得当事人同意就可以解决。“从个人信息自决权的角度，个人的自决要建立在充分知情的基础上，即个人要充分了解风险，同时要求个人全程参与个人信息流动的过程，至少要留给个人监督企业使用个人信息的渠道。个人自决意味着个人随时有权对企业使用个人信息喊停。”

“在当前无法完全保障人脸信息数据库安全性的情况下，对人脸识别广泛应用的担心是可以理解的。”王锴分析指出，人脸识别的“危险”在于，一方面，人脸虽然不属于隐私，但因为人脸这种生物特征具有唯一性，通过人脸识别可以更加容易地发现个人隐私；另一方面，人脸识别要依靠大型的信息数据库，而这种数据库的安全性是存疑的，一旦被滥用或者泄露，就会极大威胁到个人隐私乃至个人的其他权利。

“这就好像安乐死，尽管大家都知道它对于维护人的尊严的好处，但是在无法防止被滥用而且生命一旦损失就无法补救的情况下，世界各国对放开安乐死还是比较谨慎的。”王锴说。

滥用刷脸属于技术不当使用

从密码识别到芯片识别，再到个体生物特征识别（包括指纹、语音以及面部识别等），就加密或识别技术而言，日新月异的科技在带来便捷与效率的同时也带来担忧。

正因为人脸识别技术可能会导致对隐私和公民权利的侵犯，目前，一些国家和地区已经开始对人脸识别技术持谨慎甚至否定的态度，并从法律层面加以防范。

8月，瑞典数据保护机构对瑞典一所中学因违反《通用数据保护条例》而判处约1.9万欧元罚款。原因是该机构被发现使用人脸识别技术来监控22名高中生的出勤率。瑞典数据监管机构认为，在日常环境中对学生进行摄像监控等行为侵犯了学生的隐私，即便教育部门事先取得那些学生家长的同意，但仍然没有足够的合法理由，去搜集其他人的敏感数据。再以美国为例，鉴于该项技术可能会引起对有色人种的歧视，美国旧金山市今年专门出台禁令，成为第一个禁止使用人脸识别技术的城市。此外，一些其他城市，如加利福尼亚州奥克兰市以及马萨诸塞州萨默维尔市也都提出了类似禁令建议。

中国社会科学院法学所研究员、教授姚佳分析指出，对于人类来说，除了保护人格尊严等精神层面，最重要的就是对生物层面的保护，因为后者才是唯一中的“唯一”，是完全无法替代的。

“技术本身并无好坏善恶之分，但是人们利用技术的行为应接受评判，人们在应用技术时应充分考虑技术可能带来的负面影响并将风险降至最低。技术本来是为了便捷和提高效率，滥用‘刷脸’属于典型的技术不当使用。”姚佳说。

人工智能技术发展须有法律规范

显然，以人脸识别为代表的人工智能技术的急速扩张带来的法律问题不容回避，但现行法律却显得“力不从心”。目前，对于包括收集主体、目的、方法、范围与程序等在内的关键问题，法律尚一片空白，尤其是缺乏对侵权责任者的追究机制。

值得一提的是，今年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》，提出对人工智能治理的框架和行动指南，呼吁发展“负责任的人工智能”，即技术的发展应该符合人类的价值观和伦理道德，避免误用，禁止滥用、恶用。

“应把保护人类能动性作为人工智能研发的底线原则。”中国互联网协会青年专家、国家能源集团研究院研究员毕竞悦认为，以人脸识别技术为代表的人工智能的发展不应妨碍人类自治，人类不从属于人工智能系统，也不应受到人工智能系统的胁迫。人类与人工智能系统互动时必须保持充分有效的自我决定权，有权选择退出。

在毕竞悦看来，科技的发展有利有弊，但总体而言利大于弊。不应因噎废食恐惧于科技的发展，而要善于利用科技增进人类福祉。在此过程中，政府要承担起监管和制定标准的责任。

毕竞悦具体分析说，首先，在人脸识别等人工智能系统的开发、使用和管理过程中要确保公平。开发人员和实施者需要确保不让特定个人或少数群体遭受偏见、侮辱和歧视，避免将弱势群体置于更为不利的地位。在发生危害时，可以为用户提供有效补救。政府还可以提供机制，保障特殊群体的需求。其次，透明性应成为人工智能运行的基本要求。在使用包括人脸识别在内的人工智能技术收集个人信息时，必须保障个体的知情权，并拥有选择退出的权利。再次，人工智能系统的全生命周期都必须保护隐私数据。包括用户提供的所有数据以及在与人工智能系统交互过程中生成的关于用户的所有信息。此外，还要建立起具体、可操作的责任机制。

“新技术处于发展初期，法律制度不能过于严苛，需要鼓励新产业的发展。但是，当行业发展较为成熟，新技术影响到公众的生活安宁，就需要严格法律规范予以调整，就应该建立更加严格的准入和监管制度。”中国科学技术法学会常委会理事、北京市伟博律师事务所主任李伟民说。

李伟民建议尽快建立“人脸识别伦理规范”，评估新技术的价值和作用，加强新技术的行业监管。时机成熟之时，建立关于人脸识别的专门法律制度，规范大数据的采集、保管、加工、交易等环节中的法律监管，防止人脸识别过程中的信息泄露。“技术应该服务于人类、方便为人类应用，而不能成为限制人行为、伤害人生活安宁的工具。我们应该建立对人脸识别技术的风险评估、法律规范的相应制度，让人脸识别技术在一个合理范围内服务人类。”

同时，李伟民还建议制定人脸识别技术应用的相关规范制度。“相关部门采用人脸识别技术应当遵守严格的程序限制，履行严格的审批、听证、公开等程序，广泛听取民意，让人脸识别技术的应用做到以‘必要’为限。”

人工智能势头猛，立法如何跟上

记者 朱宁宁

很多时候，技术越强大，内心越恐慌。

人脸识别作为生物识别的一种技术，可用来长期追踪个人身份、去向、习惯。据悉，最新的人脸识别技术通过对人脸面部表情的深度识别，不仅能够识别性别与估计年龄，还能够辨别个人的面部表情，计算个体内心世界的真实情感。这意味着，人脸识别不但能看清脸，还能读懂心，不仅能把行踪摸清楚，还能把内心想明白。

然而，以人脸识别为代表的科学技术的高速发展和广泛应用，也给个人信息保护带来巨大挑战。目前，我国有关数据管理、数据安全等人工智能内容以及个人信息保护等规定散见于一些法律之中。比如，根据现行刑法规定，不经同意而非法获取，或者将合法取得的个人信息出售给第三方，此类行为均涉嫌构成侵犯公民个人信息罪。民法总则第一百一十一条规定，任何组织和个人需要获取他人个人信息的，应当依法取得并确保信息安全，不得非法收集、使用、加工、传输他人个人信息，不得非法买卖、提供或者公开他人个人信息。消费者权益保护法第二十九条规定，经营者收集、使用消费者个人信息，应当遵循合法、正当、必要的原则，明示收集、使用信息的目的、方式和范围，并经消费者同意。经营者收集、使用消费者个人信息，应当公开其收集、使用规则，不得违反法律、法规的规定和双方的约定收集、使用信息。网络安全法中明确了对个人信息收集、使用及保护的要求，并规定了个人对其个人信息进行更正或删除的权利。目前正在编纂中的民法典人格权编草案对“换脸”等人工智能技术使用等作出了回应。草案规定，任何组织或者个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。此外，2019年，中央网信办发布了《数据安全管理办法（征求意见稿）》，向社会公开征求意见，明确了个人信息和重要数据的收集、处理、使用和安全监督管理的相关标准和规范。

然而，制定专门的数据安全法、个人信息保护法仍然是必要的。值得一提的是，十三届全国人大常委会立法规划中，数据安全法与其他68部法律被列为“条件比较成熟、任期内拟提请审议的法律草案”。2019年十三届全国人大二次会议新闻发布会上，大会发言人张业遂称在2019年将推进数据安全法立法工作。

然而，立法加速的同时，不得不看到技术的突破和进步速度似乎更快。由此，给立法工作带来的挑战也不断加码。立法该怎样追赶技术的脚步呢？

鉴于此，有专家建议全国人大常委会积极授权国务院和地方各级人大先行先试相关领域立法。比如，目前，大数据、网络平台治理、人工智能、生物技术等前沿科技引发的隐私权保护等问题比较突出的地方大都位于北京、上海、广东、浙江、江苏等地方，而这些地方人大的立法专业化水平也都较高。据了解，现在一些地方已经在积极推进人工智能立法。比如，上海市最近在《上海市促进国际科创中心建设条例》起草过程中，将人工智能、大数据等前沿科技的安全规制等问题凝练成条款。同时，立法中还可借鉴地方立法以往采用的专业性专职委员等好的做法，将一些前沿科技治理研究的学者或者实务人员充实到立法队伍中，以加快相关立法起草的速度和质量。此外，考虑到前沿科技涉及利益群体较多，地方各级人大要解放思想，除了一部分涉及国家安全的条款，其他部分应将开门立法的理念贯彻到底，要让民众积极地参与其中，以避免产业界通过立法和规范性文件的制定来进行利益立法。