建模历史

20世纪90年代

由于参数估计的计算效率和当时的数据集较小，实证分析在很大程度上依赖于参数估计。尽管存在决策树和神经网络，但它们的使用受到技术限制。

2000年代

新千年迎来了计算能力和数据处理的重大进步，将重点转向非参数方法。 Scikit-learn 等开源工具的兴起以及 Netflix 奖等备受瞩目的竞赛展示了新算法的有效性。特别是，集成（例如随机森林和梯度提升机等决策树变体的聚合）变得流行。

2010年代

以神经网络和深度学习的主流采用为标志，在 GPU 加速计算以及传感器和智能手机数据可用性激增的推动下。深度学习（RNN、CNN，特别是 Transformer）的创新通过算法改进（例如 dropout、更好的激活函数和注意力机制）得到显着推进，从而提高了训练效率和模型焦点。

今天

利用注意力机制的 Transformer 已成为人工智能的核心，实现了前所未有的理解和内容生成。在大量计算资源和复杂算法的支持下，这些模型展示了卓越的准确性、适应性和类人输出。

应用示例

人工智能的影响遍及各个领域，每个领域都面临着与模型不准确相关的独特风险。

国防和安全：威胁检测中的错误可能会危及国家和全球安全。

医疗保健：诊断不准确可能会导致严重的健康后果。

政府：预测性警务和公共援助错误可能会严重影响边缘化社区。

金融技术：欺诈检测和信用评分不准确可能会严重影响财务结果。

娱乐：内容推荐算法的错误会带来一些小不便。

适用法规

现有的消费者保护和个人权利法律已经到位并继续发展，部分原因是对人工智能等新技术的担忧。

安全

自动驾驶汽车： NHTSA 等机构负责监督 Tesla、Uber 和 Waymo 的自动驾驶汽车项目。

医疗保健诊断： Practice Fusion 因接受回扣和过度使用阿片类药物的模型而被罚款 1.45 亿美元。 IBM Watson Health 等系统推荐了不安全和不正确的癌症治疗方案。

在线安全：通过对 YouTube 和 Epic Games 等平台进行罚款来执行 COPPA，展示了加强内容审核和年龄验证以保护数字环境中未成年用户的努力。欧盟数字服务法案 (DSA) 等近期举措旨在让平台所有者承担更多责任。

反歧视

金融贷款：消费者金融保护局 (CFPB) 发布关于贷款人使用人工智能拒绝信贷的指南。

保险承保：监管监督可确保保险行业人工智能应用的公平性，各州的具体法规旨在防止基于邮政编码等因素的歧视性保险。

招聘实践：亚马逊在发现人工智能招聘工具更青睐男性候选人后，通过停止使用该工具进行自我监管。

隐私

对大量数据的访问极大地推动了人工智能和机器学习模型的扩散。然而，如果未经明确同意收集或使用这些数据，就会出现问题。

Clearview AI 因未经同意从网络上抓取图像而于 2021 年面临意大利 IDPA（2000 万欧元）、英国 ICO（750 万英镑）的罚款以及法国 CNIL 的命令。

Facebook 因在剑桥分析丑闻中所扮演的角色（未经适当授权而共享用户数据）而于 2019 年被 FTC 罚款 50 亿美元。

2019 年，TikTok 因非法收集儿童数据与 FTC 支付 570 万美元和解，凸显了保护在线未成年人的迫切需要。此外，TikTok 还因类似违规行为于 2021 年面临荷兰 DDPA 75 万欧元的罚款。

模型审查

有效的内部和外部审查机制对于管理人工智能风险至关重要，包括：

文档：数据源、训练过程、模型迭代以及模型的目的和目标用户的综合文档是透明度的基础。

偏见和公平性评估：明确定义模型的目标，承认业务指标的优化可能会无意中促进有害行为。

定期评估训练数据的代表性，尤其是当应用程序上下文与原始数据集不同时。

采用不相关的模型进行交叉评估，并通过清晰、客观的公平性指标（例如，平衡贷款审批的人口统计准确性）对多元化语料库进行持续评估。

偏差调整：实施算法调整，例如重新加权、对抗性去偏差或纳入公平约束以减轻偏差。

使用补充模型进行额外的监督和调整。

性能和持续监控：了解模型性能和检测偏差对于人工智能应用程序的信心至关重要，不同领域的人工智能应用程序差异很大。

建立健全的持续监测和反馈机制，适应规则、技术和社会期望的变化。

性能预期应与应用程序的关键性保持一致（例如，与娱乐推荐相比，医疗保健诊断的性能预期更高）。

结论

采用这些审查实践需要仔细评估人工智能的应用和所需的审查级别。有时，更简单的模型或人工监督可能更安全，可以平衡创新与风险。随着对外部人工智能解决方案的依赖不断增加，公司对其使用承担责任。主动管理这些风险对于避免法律和声誉损害至关重要，这凸显了人工智能部署的战略性、道德方法的重要性。