近期， 欧盟委员会发布《人工智能在处理和生成新数据方面的作用：开放数据环境中的法律政策挑战》报告（以下简称《报告》），《报告》探讨了人工智能与开放数据的关系以及由此引发的知识产权和基本权利问题，同时讨论了欧盟《人工智能法案》在管理人工智能风险方面的相关内容和影响。报告主要包括以下三个方面。
一是开放数据在促进人工智能发展的同时也带来了一系列法律问题。《报告》指出，开放数据的免费性、便捷访问性促使其成为理想的人工智能训练材料，帮助人工智能进行大规模的数据分析和模式识别，从而实现更准确的预测、更智能的决策等，推动人工智能的快速发展。例如，在医疗领域，人工智能可以利用开放数据进行疾病预测、诊断辅助等，提高医疗服务的质量和效率。然而，人工智能在开放数据环境中也存在诸多法律方面的挑战。在知识产权方面，生成式人工智能系统在训练时使用的数据集包含大量公开数据，其中包括受著作权保护但未经作者授权的相关数据，这引发了著作权人的强烈不满，并导致了一系列版权侵权诉讼。此外，人工智能生成物的版权归属尚不明确，虽然普遍认为人工智能本身不能被视为著作权人，但对于人工智能辅助产生的作品，其版权归属尚未有明确定论，在实际应用中可能会引发版权纠纷。除此之外，人工智能的广泛应用可能对保护基本权利和数据安全产生重大影响。伴随着人工智能技术的不断发展，个人数据被大量收集和分析，可能导致个人隐私泄露和数据滥用的风险增加。例如，在医疗领域，人工智能系统可能会处理大量敏感的个人健康数据，如果这些数据得不到妥善保护，将对个人的权益造成严重威胁。
二是《通用数据保护条例》等欧盟现行法律框架在应对人工智能挑战方面存在不足。《报告》指出，尽管《通用数据保护条例》等法规设置了数据保护和保障各项个人权利的原则和手段，但在人工智能背景下，基本原则实现面临着诸多挑战。例如，《通用数据保护条例》规定了公正性、透明度、目的限制、数据最小化、准确性、存储限制、完整性和保密性以及问责制等数据处理的多项原则，然而在人工智能环境中，由于人工智能算法的复杂性和不透明性，确保这些原则的有效实施存在困难，不仅体现在难以确保数据处理的合法性和公正性，同时也体现在增加了数据主体行使权利的难度方面。此外，欧盟现行法律对于人工智能是否应获得作为训练材料的原始数据版权许可以及如何确定人工智能生成物的版权属性等问题也没有进行明确回应，对于这一问题，《报告》认为需要进一步的研究探讨，制定更加明确有效的法律政策。
三是欧盟《人工智能法案》有望在管理人工智能风险方面发挥重要作用，但实际效果仍有待观察。欧盟《人工智能法案》采用基于风险的方法对人工智能系统进行分类，将其分为四个类别，并对高风险人工智能系统的提供者和部署者施加了一系列义务。此外，该法案还规定了市场监督和执法措施，以及对违规行为的严厉罚款，旨在确保人工智能的发展符合道德和法律标准，保护公众的利益。然而，《报告》认为，《人工智能法案》实施可能会给欧盟人工智能提供商带来一些新挑战。例如，法案中的部分规定可能会增加企业的成本和负担，使其在国际竞争中处于劣势。同时，法案的具体实施效果还可能受到监管机构执行力度、企业合规能力等多种因素的影响。
总体来看，开放数据环境对于人工智能发展既带来了巨大的机遇，也带来一系列了潜在风险。《报告》评估了《通用数据保护条例》等欧盟现行立法在应对人工智能挑战方面的不足之处，对未来《人工智能法案》实施提供了建议，为应对人工智能风险挑战提供了法律政策方面的思路。后续我们将持续关注人工智能领域的法律动态和相关政策的调整。
