2月10日，“人工智能行动峰会”将在巴黎开幕。预计至少有一百位国家元首和政府首脑出席，其中包括美国和中国的代表，以及民间社会成员和专注于 AI 的高科技企业高管。据《世界报》报道，知名与会者包括 Elon Musk、Sam Altman（OpenAI）和 Sundar Pichai。相关法规将逐步实施，而围绕具体实施方式的讨论和可能出现的异议也将随之展开。
2月2日，欧盟正式颁布了人工智能法规，标志着全球首部全面的国际人工智能立法正式出台，该法规通常称为欧盟《人工智能法案》。
监管机构很可能会在峰会上讨论该法规将如何影响人工智能开发者和使用者的业务。2024年3月13日，欧洲议会以523票赞成、46票反对、49票弃权的多数表决结果通过了人工智能法规的最终版本。早在2023年12月，该文件就已与欧盟委员会和欧盟成员国达成一致。根据欧洲议会发布的公报，该法规旨在保护“基本权利、民主、法治和环境可持续性免受高风险 AI 的影响”，同时鼓励创新并提升欧洲在该领域的领导地位。
因此，这是一项法规，而非指令。这意味着它是一项在欧盟境内具有直接效力的法律文件。对于所有在业务活动中开发或嵌入 AI 的主体而言，这是一个重要因素。Eesti Firma 为此提供相应服务，包括加密资产、人工智能以及各类其他数字资产市场方面的法律和企业咨询。
《人工智能法案》：主要禁令与豁免
根据《人工智能法案》，某些 AI 应用被明确禁止。其中最重要的禁令之一，是禁止大规模实时生物识别监控。其他 AI 应用则被划入从低风险到高风险的不同风险类别，并须遵守相应的安全与透明度要求。
自2月2日起，欧盟规则禁止使用对人类安全和权利构成“不可接受风险”的 AI 系统，但出于国家安全理由的情况除外。
具体而言，评估人类社会行为并给出“评分”的程序将被禁止。中国曾使用这类社会评分系统，根据公民的行为给予奖励或惩罚；如今，此类系统已在欧盟境内被禁止。
工作场所和教育机构也禁止使用 AI 驱动的情绪识别技术。通过误导性手段操纵行为的 AI 系统也被禁止，尤其是在面向儿童时。例如，不得使用可能建议儿童从事不安全活动的智能对话玩具。
利用弱势群体的系统包括自动语音电话（Robo-Calls），此类系统可能被用于对老年人实施诈骗。
除此之外，公共场所基本禁止使用人脸识别，但执法机构在侦办严重犯罪案件时可以使用该系统，尤其是人口贩运和恐怖主义案件。全球人权组织 Access Now 的欧盟政策分析师 Caterina Rodelli 认为，这项豁免并不令人满意。据Euronews报道，她这样描述这一情况：“如果一项禁令存在例外，那么它就不再是禁令。”
基于欧盟人工智能法规的风险评估
开发或使用 AI 的企业必须评估其系统的风险等级，并采取必要措施确保符合相关法律规范。欧盟委员会坚称，监管并非为了阻碍创新，而是为了让 AI 更安全、更透明。因此，AI 提供商必须确保所有参与此类系统开发和运营的人员均具备足够的“AI 能力”。
违反《人工智能法案》将被处以最高3500万欧元，或企业全球年度营业额7%的罚款，以金额较高者为准；具体金额取决于违规行为和企业经营规模。这超过了欧盟《通用数据保护条例》规定的最高处罚标准，后者将罚款上限设为2000万欧元或全球年度营业额的4%。
批评与警告
Mozilla 公共政策及欧盟政府事务负责人 Tasos Stampelos 此前向CNBC表示，这部法律虽然“并不完美”，但“非常必要”。
Stampelos 在 CNBC 主办的一场会议上表示：“需要认识到，《人工智能法案》本质上主要是一部产品安全法规。正如安全法规的实施过程一样，通过一部法律并不意味着整个过程已经结束。之后还会出台多项配套措施和解释说明。”
他补充道：“现阶段能否遵守该法律，将取决于未来出台的标准、指南、二级立法及各类衍生工具，因为它们将界定合规的实际含义。”
行业协会 Bitkom 也提出了批评：其代表表示，新法律的定义不够明确，立法者在尚未“做好功课”的情况下，就制定了严格要求和紧迫期限。Bitkom 董事会成员 Susanne Demel 表示，企业在应对法律风险方面只能依靠自己。当美国向 AI 投资数千亿美元、中国致力于开发强大的语言模型时，Demel 坚信，“德国和欧盟却在为开发者设置障碍”。
欧盟委员会主席 Ursula von der Leyen 和欧洲中央银行行长 Christine Lagarde 联合发表博客文章，警告欧洲的 AI 竞争力正面临风险，进一步加剧了危机感。她们表示：“当全世界正在经历一场 AI 革命时，欧盟却面临掉队的风险。”
截然不同的路径——欧盟与 Donald Trump 执政下的美国
与此同时，与欧洲的监管路线相比，Donald Trump 于2025年1月开启第二任期后，美国政府选择了截然不同的方针。其政府进一步放松了原本就较为宽松的监管，撤销了此前的行政命令，并大力宣传科技行业数十亿美元的投资。
白宫宣布启动“Stargate”基础设施项目，计划在四年内投入最高5000亿美元。资金将用于建设数据中心以及 AI 基础设施的其他组成部分。Donald Trump 强调，“这一切都发生在这里，在美国”，并承诺将在未来180天内公布详细的“AI 行动计划”。
分析人士指出，美国新战略的主要目标是巩固其在 AI 领域的主导地位。专家认为，欧盟与美国采取的不同路径将对全球 AI 竞赛产生长期影响。目前，在 Google、Meta、Apple 和 OpenAI 等科技巨头的推动下，美国在研究和投资领域处于领先地位。中国位居第二，并正在迅速拓展其 AI 能力。美国专注于 IT 行业发展和国家利益，而欧洲则坚持严格监管和消费者保护。
因此，全球 AI 治理的未来仍充满不确定性。欧盟试图通过细致的风险监管和透明度要求，在推动创新的同时提供保障；美国则采取尽量减少企业发展障碍的策略。观察人士强调，安全与创新之间的平衡将决定未来几年 AI 在经济和社会中发挥的作用。
