为加拿大新的隐私立法做准备——第三部分

自从互联网成为一种生活方式以来，个人和数据隐私就一直受到关注。优秀的公司会做出真正的努力来保护他们的用户和客户——因为这是正确的做法，而且法律越来越多地强制要求采取这种保护措施。

在加拿大，拟议的 C-27 法案在《消费者隐私保护法》中规定了有关消费者隐私的新规则，并在《个人信息和数据保护法庭法》中规定了执行条款，我在之前的文章中对此进行了介绍。 

C-27 法案包括第三项条款，即《人工智能和数据法案》 (AIDA)，以解决基于人工智能的系统的日益增长的使用问题。人工智能给企业和立法者带来了新的（且仍在不断出现的）挑战，以保护消费者免受伤害和偏见输出的风险。

AIDA 明确指出，它致力于解决可能对世界产生重大影响的“高影响力人工智能系统”。 

随着全球许多司法管辖区正在探索如何监控和监管人工智能，加拿大也通过这项新法案加入了监管人工智能的竞赛。如果您在加拿大开展业务，则值得研究新法律并了解您的人工智能计划如何影响您对隐私、保护和信任的承诺。

人工智能的潜力——

以及人工智能的潜在问题

人工智能如今成为头条新闻，这是有充分理由的：它有潜力重塑各种业务流程并创造全新的价值链。但它也带来了一些有关隐私和非法使用的实际问题。

以一家美国面部识别公司为例，该公司因使用包含超过 30 亿张图像的庞大数据库而受到批评。

答：上述问题可能看起来像是明显的隐私侵犯和滥用，但很容易想象更多无害但仍然存在问题的人工智能应用。假设您计划使用人工智能来自动筛选新员工的简历。

该系统扫描和“消化”简历的速度比人工筛选人员快得多，而且至少在理论上更加客观。但是，如果您不能确信该算法不会反映固有偏差（这通常源于用于训练系统的源数据中的缺陷），那么您就无法确信系统的输出不会造成损害。 

显然，有偏见的招聘系统限制了潜在候选人的数量，并可能使现有的边缘化现象永久化，从而对求职者和您的企业不利。

根据 AIDA 的规则：

• 您必须能够解释您正在收集何种信息、如何收集信息以及您的算法如何工作。

• 您还必须允许个人请求访问该信息。此外，您必须准备好证明您的算法没有偏见。

换句话说，你的人工智能策略必须是透明的。透明度还延伸到培训数据的理念，以确保数据的公正性和合法收集。

请注意，C-27 法案还规定您有责任确保您使用的人工智能应用程序的任何第三方供应商也遵守新法律。

AIDA 还呼吁建立一个新的政府实体，即“人工智能和数据专员”，以监督合规性、命令审计并与相关管理机构共享信息。

这个新实体还将能够征收巨额罚款：违规行为将被处以最高 2500 万加元或全球年收入 5% 的罚款（以较高者为准）。误导或阻碍政府违法行为的公司或个人可能面临 1000 万加元或全球年收入 3% 的罚款。该法律还提议对非法使用人工智能系统的个人判处监禁。

你可以做什么准备？

尽管基于人工智能的应用正在呈爆炸式增长，但该技术的快速发展意味着人工智能立法仍在进行中。

加拿大 C-27 法案的 AIDA 部分在通过之前可能会发生变化。尽管如此，考虑到您对用户和客户的责任以及不合规的潜在法律后果方面的风险，现在是审查您的公司如何使用或计划使用人工智能的好时机。

您应该确保您对正在使用的算法（或第三方供应商）有深入的了解，以便您可以识别潜在的风险。您还应该确保您的数据收集、方法和算法能够表现出高度的透明度、合规性受到监控并受到保护。