人工智能权利法

【教育科技】

人工智能权利法

 

南伊，2022年10月5日，周三

 

人工智能（AI）是第四次工业革命的基础，它将推动下一波科技飞跃发展，影响人类生活的各个方面。以动画电影行业为例，以前动画片的制作需要一整套繁琐的流程：首先导演要根据文字剧本绘制出连环画草图，设计角色、场景、道具，绘画专家用印有矩形方格的分镜纸描画出每个场景的背景和人物，在一旁用文字注明这个场景中人物的动作和台词。整个动画的制作需要有多个部门分工协作，包括建模组，动画组，场景组，特效组，灯光合成及配乐组，配音剪辑及宣传发行组等等。迪斯尼公司的米老鼠和唐老鸭系列动画电影就是用这种传统方法制作出来的。

现在利用人工智能技术，动画片中的人物形象和场景图像都能根据文本自动生成。上周，Meta 推出了 Make-A-Video，这是一种可以根据文本提示自动生成视频的人工智能技术。虽然现在只能生成几分钟长的视频，但是经过改进，这样的技术可以彻底改变电影制作和动画片的生产。这种技术在广告宣传和其它商业领域也有广泛的应用前景。 

最近，卡内基梅隆大学的研究人员使用自动化系统和机器学习软件来生成电解质，使锂离子电池能够更快地充电，解决了电动汽车广泛采用的主要障碍。用人工智能帮助开发更好的电池，将会更快地终止燃油汽车的使用，为保护地球环境做出重大贡献。哈佛大学的研究人员使用智能手机和可穿戴生物传感器收集的数据来创建一种算法，该算法可以预测用户是否有自杀风险；如果发现重大风险，这个算法还能帮助临床医生进行干预。

两个月前，古狗（Google）解雇了一名 AI 测试工程师，原因是这个工程师宣称 AI 系统已经具有感情和自我意识。虽然现在的 AI 产品不具有人格意识，这并不能排除将来的智能产品具备有这种功能。AI 的发展是无止境的，具有自我意识和人格感情的智能机器人一定会出现，这只是个时间长短的问题，我坚信这一点。

当然，科技发展和人类生活的关系很复杂。就拿民主和自由来说，有时科技发展可以促进民主自由，比如最近伊朗的抗议活动，美国提供给伊朗人先进科技工具，用来反对伊朗当局的断网镇压。但是，科技也可以被独裁政权用来压制人民的声音，警察可以使用 AI 技术高效收集信息，钳制人们的言论和行动的自由。即使在民主国家，已经发现有些辅助招聘和贷款决策的软件算法存在偏见和歧视，尤其对少数族裔不公平。社交媒体收集用户的各种数据，不经用户同意就跟踪他们的活动，严重侵犯了个人隐私。

欧盟正在制定新规则，建立人工智能产品的监督问责制，以便更容易起诉人工智能公司对用户所造成的损害。欧盟已经限制执法机构在公共场所使用人脸识别系统，因为它可能导致大规模监控。美国总统拜登昨天公布了一项新的人工智能权利法案，旨在加强隐私保护，对伤害用户权益的智能产品制造商追究责任。白宫科技政策办公室（OSTP）制定了五项保护原则：

1. 安全有效的系统：人工智能系统必须在部署之前进行测试，证明它们是安全和有效的。

2. 避免歧视算法：任何人工智能系统的软件算法不应有基于种族、肤色、民族、性别（包括双性人和性取向）、宗教、年龄的歧视性决策行为。

3. 数据隐私：对用户的数据收集必须控制在合理范围，并征得用户的同意。对用户的提示应该简明扼要，通俗易懂。用户应该有权得到商家对用户数据的使用报告。

4. 通知及说明：人工智能系统应该提供公开报告，用通俗的语言解释该系统的关键功能和结果影响。

5. 具备退出选项：用户可以选择退出自动化智能系统，选择使用人类替代系统。

这是白宫 OSTP 提出的蓝图和愿景。算法不应有歧视性，系统应按设计以公平的方式使用；公民应该有权决定自己的用户信息应该如何被使用；应该有内置的保护措施来防止滥用个人信息。这个权利法案是一个良好的起点，强调了数据最小化的重要性，现在的关键是要确保这些原则能够具体落实和严格执行。

现在的问题是，人类目前并没有完全理解人工智能系统的工作原理。用于训练人工智能系统的数据集非常庞大，无法确定它们是否含有错误。今天的神经网络极其复杂，即使它们的创造者也可能不完全理解它们是如何得出结论的。所以，白宫提出的这个蓝图和愿景在具体执行时还会遇到许多挑战。

另外，这样的人工智能权利法案会扼杀创新吗？对 AI 公司来说，名目繁多的制约法案的确会限制 AI 的研发进度，他们既害怕被用户告上法庭，也害怕政府的罚款。各国政府对公司的罚款已经高达全球年总收入的 6%。比如，亚马逊在 2021 年因违反数据保护法被罚款 7.46 亿欧元（7.75 亿美元），谷歌在 2018 年因违反欧盟反垄断法被罚款 43 亿欧元（45 亿美元）。

鼓励 AI 创新和防控 AI 危害的法律应该达到合理的平衡。

 

参考文献

【1】The White House, Office of Science and Technology Policy: Blueprint for an AI bill of Rights, https://www.whitehouse.gov/ostp/ai-bill-of-rights/. 

 

南伊，2022年10月5日，周三。