• 视频实录
  • 专家观点
  • 现场风采
  • 更多话题
  • 联系我们
  • 《大咖随辩》第二期

    本期论题:人工智能“算法公开”能否解决“算法歧视”?

    主持人:张浩 赛迪智库政策法规研究所高级研究员
                 北京邮电大学网络法学硕士

    嘉 宾:郑志峰 西南政法大学老师

      栾群 赛迪研究院政法所所长

    人工智能的研究和产业化进程方兴未艾,算法歧视也被学者和业界广为关注,算法公开成为呼声较高的解决良方。赛迪智库政策法规研究所认为,算法公开并不能根治算法歧视现象,且有一定的副作用。在具体实践中,数据比算法本身更容易导致歧视性后果的出现。虽然无法从根本上避免算法歧视,但可以通过针对不同要素的事前、事中或事后审查加以控制。

  • 栾群
  • 郑志峰
  • 当前算法歧视问题有些什么体现?

    数据、算法、算力共同使得人工智能发展。这种算法偏差和算法歧视问题的出现后,研究人员认为算法公开是治本之道,分歧点在于算法公开能否解决问题,这是一个争议。

  • 话题二:什么造成了算法歧视?

    我认为问题是数据,造成不好结果的问题是多个原因的。根本原因是算法是一种技术,从技术中立来看无所谓好坏,它是现实社会的映射。算法歧视不是本质原因,根本原因是数据。从几个层次来看,第一个方面,数据本身不全面,不是完整的数据;另一个方面,数据带有一定的可替代性,要达到一定的结果,通过这样的数据可以达到这一结果,另一些数据也可能达到同样的结果。数据本身和数据方法的强相关程度不一样。

  • 话题三:如何解决算法歧视问题,是否应该算法公开?

    我的观点不是否定算法公开的作用,但是算法公开的效果需要思考。有五个方面的建议。一,算法公开的逻辑,对于普通人而言没有能力鉴别算法是不是造成了歧视的;二,算法带有一定的时效性,人工智能系统的长处在于可以不断学习,信息技术发展快,人员变化也快,出于机器学习的结果,或者基于优化的结果,可能在最后经过迭代以后,算法已经不太一样了。公开可能意义可能就不大了。第三,技术中立,作为一项技术的算法来说无所谓善恶;第四个问题是考虑到算法,算法是不申请专利的,它是一种商业机密,如果是强制要求,要求公司公开算法,是违背现有商业逻辑和公司法以及知识产权法的一般规定。从长远来看,这不是商业化的操作方式;第五,一旦公开之后就不可控了,可能会有一些别有用心的人利用算法进行一些不法事件。

  • 话题四:还有没有其他方式解决问题?

    我反对的不是算法公开的作用,算法公开是不是能完全解决问题有争议。算法公开的对象和范围核心点是个问题。法律上有一个基本逻辑,要守法的第一步是公开,算法和国家法不一样的是国家法是针对所有人的公共行为,而企业是私主体,如果让企业公开自己的商业秘密行为,是不公平的;第二,让某些人知道算法公开,对公司会造成的损失,但是难以形成合理的补偿机制,这是一个不得不考虑的问题。另外一个,定期持续公开的问题,在我看来对于企业来说是一个巨大的负担,由谁定期的公开也是一个问题。

  • 话题五:应该如何彻底解决算法公开的问题?

    在对策方面,我认同综合治理的观点,算法是一个系统性的事情,在数据、算法、算力等方面都要完善。实际上我认为,算法歧视是人类社会中带个人偏见的映射,歧视是不可能百分之百的杜绝的,通过系统综合的治理,尽可能的引导处理事情。在公开上,要把握好公开的时间和范围,还是以个案的处理方式为好,提到一般数据保护法的问题,我有不同的观点,我认为对于算法公开的时间点,以个案形式来处理比较好。而不是以强制性的统一立法的方式来处理。

  • 话题一:当前算法歧视问题有些什么体现?

    人工智能形成了重大影响,人工智能引起更多注意的是人工智能的显性产品,但实际上很多隐形的东西如算法造成的影响更大。算法在带来好处的同时也引起了很多问题。比如在美国发生的黑人标注问题显然是歧视问题。

  • 话题二:什么造成了算法歧视?

    栾所长认为是数据带来偏差,我认为是算法本身的问题。算法是算法歧视的重要原因。

  • 话题三:如何解决算法歧视问题,是否应该算法公开?

    算法本身是算法歧视的原因,算法公开肯定是有用处的。算法很重要,但是根本原因是数据。栾所长认为,人工智能是打面机,我认为人工智能可能就像小孩子,同样的养料,但是长大了在各方面可能都会有一定的差异。人工智能就是如此,同样的数据可能算法不同而造成了结果的不同。如果公开算法,就可以承担责任,因此公开算法有一定作用。

  • 话题四:还有没有其他方式解决问题?

    栾群所长提出的五种缺陷我不完全同意,我可以进行如下回复。首先对于专业性强的问题不是要每个人都知道,公开可以起到监督的作用;第二,算法具有一定的时效性,是一次性公开还是持续性公开的问题,要不断地公开;第三,算法中立的问题,同样的数据面对不同算法是不一样的,数据也是中立的;第四个,现有的算法作为商业秘密来保护,但是知识产权是为了商业秘密的保护问题,知识产权也可以保护知识产权,而且也可以保护公司的名誉,比如今日头条就公开过算法的逻辑;第五个,信息公开的确实具有共同的缺陷,可能有坏人利用,但是也会有相应力量遏制。

  • 话题五:应该如何彻底解决算法公开的问题?

    歧视问题是一个无法根治的问题,对于算法进行综合治理,包括法律、技术等多方面来治理。个人觉得比较重要的是要完善个人信息保护和数据的应用。数据是一个一体两面的问题。算法和个人信息保护有着很大的关系,可以参照欧盟的数据保护法,对于一些敏感的信息不能够进行自动化决策。

  • 栾群 赛迪智库政策法规所所长

    2011年7月中国政法大学民商法学博士毕业,2012年-2014年9月,在工业和信息化部规划司借调。2014年10月至今,任赛迪智库政策法规研究所副所长、所长。

  • 话题一:当前算法歧视问题有些什么体现?

    数据、算法、算力共同使得人工智能发展。这种算法偏差和算法歧视问题的出现后,研究人员认为算法公开是治本之道,分歧点在于算法公开能否解决问题,这是一个争议。

  • 话题二:什么造成了算法歧视?

    我认为问题是数据,造成不好结果的问题是多个原因的。根本原因是算法是一种技术,从技术中立来看无所谓好坏,它是现实社会的映射。算法歧视不是本质原因,根本原因是数据。从几个层次来看,第一个方面,数据本身不全面,不是完整的数据;另一个方面,数据带有一定的可替代性,要达到一定的结果,通过这样的数据可以达到这一结果,另一些数据也可能达到同样的结果。数据本身和数据方法的强相关程度不一样。

  • 话题三:如何解决算法歧视问题,是否应该算法公开?

    我的观点不是否定算法公开的作用,但是算法公开的效果需要思考。有五个方面的建议。一,算法公开的逻辑,对于普通人而言没有能力鉴别算法是不是造成了歧视的;二,算法带有一定的时效性,人工智能系统的长处在于可以不断学习,信息技术发展快,人员变化也快,出于机器学习的结果,或者基于优化的结果,可能在最后经过迭代以后,算法已经不太一样了。公开可能意义可能就不大了。第三,技术中立,作为一项技术的算法来说无所谓善恶;第四个问题是考虑到算法,算法是不申请专利的,它是一种商业机密,如果是强制要求,要求公司公开算法,是违背现有商业逻辑和公司法以及知识产权法的一般规定。从长远来看,这不是商业化的操作方式;第五,一旦公开之后就不可控了,可能会有一些别有用心的人利用算法进行一些不法事件。

  • 话题四:还有没有其他方式解决问题?

    我反对的不是算法公开的作用,算法公开是不是能完全解决问题有争议。算法公开的对象和范围核心点是个问题。法律上有一个基本逻辑,要守法的第一步是公开,算法和国家法不一样的是国家法是针对所有人的公共行为,而企业是私主体,如果让企业公开自己的商业秘密行为,是不公平的;第二,让某些人知道算法公开,对公司会造成的损失,但是难以形成合理的补偿机制,这是一个不得不考虑的问题。另外一个,定期持续公开的问题,在我看来对于企业来说是一个巨大的负担,由谁定期的公开也是一个问题。

  • 话题五:应该如何彻底解决算法公开的问题?

    在对策方面,我认同综合治理的观点,算法是一个系统性的事情,在数据、算法、算力等方面都要完善。实际上我认为,算法歧视是人类社会中带个人偏见的映射,歧视是不可能百分之百的杜绝的,通过系统综合的治理,尽可能的引导处理事情。在公开上,要把握好公开的时间和范围,还是以个案的处理方式为好,提到一般数据保护法的问题,我有不同的观点,我认为对于算法公开的时间点,以个案形式来处理比较好。而不是以强制性的统一立法的方式来处理。

  • 郑志峰 西南政法大学民商法学院博士、讲师

    西南政法大学自动驾驶法律研究中心主任,重庆市自动驾驶道路测试专家管理委员会执行委员,百度公共政策研究院高级研究员。

  • 话题一:当前算法歧视问题有些什么体现?

    人工智能形成了重大影响,人工智能引起更多注意的是人工智能的显性产品,但实际上很多隐形的东西如算法造成的影响更大。算法在带来好处的同时也引起了很多问题。比如在美国发生的黑人标注问题显然是歧视问题。

  • 话题二:什么造成了算法歧视?

    栾所长认为是数据带来偏差,我认为是算法本身的问题。算法是算法歧视的重要原因。

  • 话题三:如何解决算法歧视问题,是否应该算法公开?

    算法本身是算法歧视的原因,算法公开肯定是有用处的。算法很重要,但是根本原因是数据。栾所长认为,人工智能是打面机,我认为人工智能可能就像小孩子,同样的养料,但是长大了在各方面可能都会有一定的差异。人工智能就是如此,同样的数据可能算法不同而造成了结果的不同。如果公开算法,就可以承担责任,因此公开算法有一定作用。

  • 话题四:还有没有其他方式解决问题?

    栾群所长提出的五种缺陷我不完全同意,我可以进行如下回复。首先对于专业性强的问题不是要每个人都知道,公开可以起到监督的作用;第二,算法具有一定的时效性,是一次性公开还是持续性公开的问题,要不断地公开;第三,算法中立的问题,同样的数据面对不同算法是不一样的,数据也是中立的;第四个,现有的算法作为商业秘密来保护,但是知识产权是为了商业秘密的保护问题,知识产权也可以保护知识产权,而且也可以保护公司的名誉,比如今日头条就公开过算法的逻辑;第五个,信息公开的确实具有共同的缺陷,可能有坏人利用,但是也会有相应力量遏制。

  • 话题五:应该如何彻底解决算法公开的问题?

    歧视问题是一个无法根治的问题,对于算法进行综合治理,包括法律、技术等多方面来治理。个人觉得比较重要的是要完善个人信息保护和数据的应用。数据是一个一体两面的问题。算法和个人信息保护有着很大的关系,可以参照欧盟的数据保护法,对于一些敏感的信息不能够进行自动化决策。

  • 1 2 3
  • 联系方式:

    联系电话:010-88558935

    邮箱:xupy@staff.ccidnet.com

    本期出品方:

    赛迪研究院政法所

    亿客隆彩票登录平台

  • 亿客隆彩票登录平台

  • 赛迪研究院政法所