建模歷史

1990年代

由於參數估計的計算效率和當時的資料集較小，實證分析在很大程度上依賴參數估計。儘管存在決策樹和神經網絡，但它們的使用受到技術限制。

2000年代

新千年迎來了運算能力和資料處理的重大進步，將重點轉向非參數方法。 Scikit-learn 等開源工具的興起以及 Netflix 獎等備受矚目的競賽展示了新演算法的有效性。特別是，整合（例如隨機森林和梯度提昇機等決策樹變體的聚合）變得流行。

2010年代

以神經網路和深度學習的主流採用為標誌，在 GPU 加速運算以及感測器和智慧型手機數據可用性激增的推動下。深度學習（RNN、CNN，特別是 Transformer）的創新透過演算法改進（例如 dropout、更好的激活函數和注意力機制）而顯著推進，從而提高了訓練效率和模型焦點。

今天

利用注意力機制的 Transformer 已成為人工智慧的核心，實現了前所未有的理解和內容生成。在大量計算資源和複雜演算法的支援下，這些模型展示了卓越的準確性、適應性和類人輸出。

應用範例

人工智慧的影響遍及各個領域，每個領域都面臨著與模型不準確相關的獨特風險。

國防與安全：威脅偵測中的錯誤可能會危及國家和全球安全。

醫療保健：診斷不準確可能會導致嚴重的健康後果。

政府：預測性警務和公共援助錯誤可能會嚴重影響邊緣社區。

金融科技：詐欺偵測和信用評分不準確可能會嚴重影響財務結果。

娛樂：內容推薦演算法的錯誤會帶來一些小不便。

適用法規

現有的消費者保護和個人權利法律已經到位並繼續發展，部分原因是對人工智慧等新技術的擔憂。

安全

自動駕駛汽車： NHTSA 等機構負責監督 Tesla、Uber 和 Waymo 的自動駕駛汽車計畫。

醫療保健診斷： Practice Fusion 因接受回扣和過度使用鴉片類藥物的模型而被罰款 1.45 億美元。 IBM Watson Health 等系統推薦了不安全且不正確的癌症治療方案。

線上安全：透過對 YouTube 和 Epic Games 等平台進行罰款來執行 COPPA，展示了加強內容審核和年齡驗證以保護數位環境中未成年用戶的努力。歐盟數位服務法案 (DSA) 等近期措施旨在讓平台所有者承擔更多責任。

反歧視

金融貸款：消費者金融保護局 (CFPB) 發布關於貸款人使用人工智慧拒絕信貸的指南。

保險承保：監理監督可確保保險業人工智慧應用的公平性，各州的具體法規旨在防止基於郵遞區號等因素的歧視性保險。

招募實踐：亞馬遜在發現人工智慧招募工具更青睞男性候選人後，透過停止使用該工具進行自我監管。

隱私

對大量資料的存取極大地推動了人工智慧和機器學習模型的擴散。然而，如果未經明確同意收集或使用這些數據，就會出現問題。

Clearview AI 因未經同意從網路上抓取影像而於 2021 年面臨義大利 IDPA（2000 萬歐元）、英國 ICO（750 萬英鎊）的罰款以及法國 CNIL 的命令。

Facebook 因在劍橋分析醜聞中所扮演的角色（未經適當授權而共享用戶資料）而於 2019 年被 FTC 罰款 50 億美元。

2019 年，TikTok 因非法收集兒童資料與 FTC 支付 570 萬美元和解，凸顯了保護網路未成年人的迫切需求。此外，TikTok 也因類似違規行為於 2021 年面臨荷蘭 DDPA 75 萬歐元的罰款。

模型審查

有效的內部和外部審查機制對於管理人工智慧風險至關重要，包括：

文件：資料來源、訓練過程、模型迭代以及模型的目的和目標使用者的綜合文件是透明度的基礎。

偏見和公平性評估：明確定義模型的目標，承認業務指標的最佳化可能會無意中促進有害行為。

定期評估訓練資料的代表性，尤其是當應用程式情境與原始資料集不同時。

採用不相關的模型進行交叉評估，並透過清晰、客觀的公平性指標（例如，平衡貸款審批的人口統計準確性）對多元化語料庫進行持續評估。

偏差調整：實施演算法調整，例如重新加權、對抗性去偏差或納入公平約束以減輕偏差。

使用補充模型進行額外的監督和調整。

效能和持續監控：了解模型效能和檢測偏差對於人工智慧應用程式的信心至關重要，不同領域的人工智慧應用差異很大。

建立健全的持續監測和回饋機制，適應規則、技術和社會期望的變化。

效能預期應與應用程式的關鍵性保持一致（例如，與娛樂推薦相比，醫療保健診斷的效能預期更高）。