随着企业越来越多地将人工智能技术融入美国人的日常生活，加州立法者希望建立公众信任，打击算法歧视，并取缔涉及选举或色情内容的深度造假。
加州是世界上许多最大的人工智能公司的所在地，加州的努力可能为全国各地的人工智能监管铺平道路。立法者和专家表示，美国在监管人工智能以限制风险方面已经落后于欧洲，而这种快速发展的技术正在引发人们对失业、错误信息、侵犯隐私和自动化偏见的担忧。
上周，一系列旨在解决这些担忧的提案得到了推进，但在到达州长加文·纽森(Gavin Newsom)的办公桌之前，必须获得另一个议院的批准。这位民主党州长宣传加州是人工智能的早期采用者和监管者，他表示，加州可能很快就会部署生成式人工智能工具，以解决高速公路拥堵问题，使道路更安全，并提供税收指导，尽管他的政府正在考虑制定新规则，反对在招聘实践中对人工智能的歧视。周三，他在旧金山举行的人工智能峰会上宣布，该州正在考虑至少另外三种工具，其中包括一种解决无家可归问题的工具。
“隐私未来论坛”(Future of privacy Forum)副主任塔蒂亚娜·赖斯(Tatiana Rice)表示，由于已经制定了强有力的隐私法，加州比纽约等对人工智能有很大兴趣的其他州更有能力制定有影响力的法规。“隐私未来论坛”是一家非营利组织，与立法者就技术和隐私提案进行合作。
赖斯说:“要想通过人工智能法，就需要一部数据隐私法。“我们仍在关注纽约的动向，但我会把更多赌注押在加州身上。”
加州领导人表示，他们迫不及待地要采取行动，并列举了他们从本有机会控制社交媒体公司的失败中吸取的惨痛教训。但他们也希望继续吸引人工智能公司来到该州。
纽森在周三的活动中表示:“我们希望主导这个领域，我太有竞争力了，不会提出其他建议。”“我确实认为，世界在很多方面都希望我们在这一领域处于领先地位，因此我们深感有责任做好这件事。”
让我们来仔细看看加州的提案:
包括医院在内的一些公司已经在没有太多监督的情况下，使用人工智能模型为数百万美国人定义招聘、住房和医疗选择的决策。根据美国平等就业机会委员会的数据，高达83%的雇主正在使用人工智能来帮助招聘。这些算法的工作原理在很大程度上仍然是个谜。
今年加州最雄心勃勃的人工智能措施之一将通过建立一个监督框架来防止偏见和歧视，从而揭开这些模型的面纱。它将要求使用人工智能工具的公司参与决定结果的决策，并在使用人工智能时通知受影响的人。人工智能开发人员将不得不定期对他们的模型进行内部评估。州检察长将有权调查歧视模特的报告，并对每次违规行为处以1万美元的罚款。
人工智能公司可能很快就会被要求开始披露他们用来训练模型的数据。
受去年长达数月的好莱坞演员罢工的启发，加利福尼亚州的一位立法者希望保护工人免受人工智能生成的克隆物的取代——这是合同谈判中的一个主要争论点。
这项提案得到了加州劳工联合会的支持，如果模糊的语言可能允许工作室自由地使用人工智能来数字克隆他们的声音和形象，表演者将退出现有的合同。它还要求演员在签署新的“声音和形象”合同时由律师或工会代表代表。
加州还可能对未经遗产管理机构同意就数字化克隆死者的行为制定惩罚措施。加州援引了一家媒体公司的案例，该公司制作了一部人工智能制作的长达一小时的假喜剧特别节目，在未经已故喜剧演员乔治·卡林(George Carlin)遗产管理机构许可的情况下，模仿了他的风格和素材。
随着生成式人工智能根据提示创建文本、音频和照片等新内容，现实世界的风险比比皆是。因此，立法者正在考虑在“超大型”人工智能系统周围设置护栏，这些系统有可能发出制造灾难的指令——比如制造化学武器或协助网络攻击——这可能造成至少5亿美元的损失。这将要求这些模型有一个内置的“终止开关”，以及其他一些东西。
这项措施得到了一些最知名的人工智能研究人员的支持，它还将创建一个新的国家机构来监督开发人员，并提供最佳实践，包括为尚未存在的更强大的模型提供最佳实践。如果发生违规行为，州检察长也可以采取法律行动。
一个两党联盟试图帮助起诉那些使用人工智能工具制作儿童性虐待图像的人。执法部门表示，现行法律不允许地方检察官追查拥有或传播人工智能生成的儿童性虐待图像的人，如果这些图像不是真实的人。
许多民主党议员也支持一项解决选举深度造假的法案，理由是在最近新罕布什尔州总统初选前，人工智能生成的自动电话模仿了乔·拜登总统的声音。该提案将禁止在选举日之前120天和之后60天内，在政治邮件、自动电话和电视广告中进行与选举有关的“实质性欺骗性”深度造假。另一项提案要求社交媒体平台为人工智能创建的任何与选举相关的帖子贴上标签。
