數據在人工智慧系統的訓練中發揮什麼作用？

人工智慧系統使用資料作為訓練範例。像 ChatGPT 這樣的大型語言模型只能回答有關它們接受過訓練的主題的問題。

通用語言模型用於訓練目的的大部分資訊都包含來自互聯網的開放存取資料。問題的可用訓練資料越多，答案就越好。例如，如果可以為旨在描述數學思想的人工智慧系統找到許多好的文本，那麼訓練資料也會很好。然而，目前數據的選擇是高度過濾的。在海量的可用材料中，只有高品質的材料才會被收集並用於培訓。

例如，在選擇資料時，如何防止人工智慧系統產生種族主義或性別歧視刻板印像等形式的偏見？

很難找到一種不依賴傳統觀念、公平公正地運作的方法。例如，防止膚色方面的偏差結果相當容易。但是，如果我們將性別和膚色一起考慮在內，則可能會出現模型不再可能在膚色和性別方面完全公正的情況。

因此，大多數語言模型都試圖為政治問題提供平衡的答案，並考慮多種觀點。當使用媒體內容訓練人工智慧系統時，會優先考慮符合新聞品質標準的媒體。此外，過濾過程可確保不包含包含某些字詞的文本，例如帶有種族主義或性別歧視意圖的文本。

某些語言的網路內容比其他語言的網路內容多得多。這如何影響結果的品質？

網路內容大多是英文的。因此，英語的大型語言模型效果最好。但也有大量德語內容。然而，對於鮮為人知的語言，由於沒有那麼多文本，因此訓練資料並不豐富。結果，這些模型不能正常工作。

但很容易確定語言模型在某些語言中的使用效果如何，因為這些模型遵循所謂的縮放定律。這涉及測試語言模型是否能夠預測下一個單字。擁有的訓練資料越多，模型的表現就越好。而且效能不僅會隨著時間的推移而提高，而且會以可預測的方式提高。這個比例定律在數學方程中得到了很好的表達。

人工智慧系統在實務上必須有多準確？

這取決於應用領域。例如，當人工智慧用於處理照片時，不需要每根頭髮都就位。在許多情況下，我們只希望最終圖像看起來不錯。對於大型語言模型，獲得良好的答案非常重要，而細節或不準確並不總是至關重要的。但除了語言模型之外，我還在醫學影像領域進行研究。在這裡，生成圖像的每個細節都正確非常重要。如果我使用人工智慧來進行這方面的診斷，它必須絕對準確。

在人工智慧方面，關於缺乏資料保護也存在著許多爭論。我們如何確保個人資料受到保護，尤其是在醫療領域？

在大多數醫療應用中，患者資料以匿名形式使用。實際的危險在於，在某些情況下可以使用這些數據來確定個人詳細資訊。例如，可以根據MRI或CT掃描粗略地確定患者的年齡或性別。因此，數據實際上包含一些匿名資訊。在這種情況下，正確告知患者非常重要。

在醫療環境中訓練人工智慧系統時還會出現哪些其他困難？

一個很大的困難涉及收集反映許多不同情況和場景的數據。當我們將人工智慧應用於與訓練資料相似的資料時，它的效果最好。但不同醫院的數據因病患資料或產生數據的設備而異。解決這個問題有兩種方法：要麼改進演算法，要麼優化數據，使其能夠更好地應用於其他情況。