世界衛(wèi)生組織（世衛(wèi)組織）發(fā)布了一份新出版物，列出了對衛(wèi)生領(lǐng)域人工智能的主要監(jiān)管考慮因素。該出版物強(qiáng)調(diào)必須建立安全有效的人工智能系統(tǒng)，迅速向有需要的人群提供適當(dāng)?shù)南到y(tǒng)，并促進(jìn)利益攸關(guān)方，包括開發(fā)人員、監(jiān)管機(jī)構(gòu)、制造商、衛(wèi)生工作者和患者之間的對話。

隨著獲得的衛(wèi)生保健數(shù)據(jù)不斷增加以及分析技術(shù)（無論是機(jī)器學(xué)習(xí)，基于邏輯的技術(shù)還是統(tǒng)計技術(shù)）的快速進(jìn)步，人工智能工具可給衛(wèi)生領(lǐng)域帶來巨變。世衛(wèi)組織認(rèn)識到人工智能有潛力通過加強(qiáng)臨床試驗改善健康結(jié)果；改近醫(yī)療診斷、治療、自我保健和以人為本的護(hù)理；并補(bǔ)充衛(wèi)生保健專業(yè)人員的知識、技能和能力。例如，人工智能可以在缺乏醫(yī)學(xué)專家的情況下發(fā)揮作用，解釋視網(wǎng)膜掃描和放射學(xué)圖像等。

然而，目前人工智能技術(shù)（包括大型語言模型）在迅速部署，有時甚至沒有完全了解其性能，這對包括衛(wèi)生保健專業(yè)人員和患者在內(nèi)的最終用戶可能有益也可能有害。在使用衛(wèi)生數(shù)據(jù)時，人工智能系統(tǒng)可能訪問敏感的個人信息，因此需要強(qiáng)大的法律和監(jiān)管框架來保障隱私、安全和誠信，本出版物旨在幫助建立和維護(hù)這些框架。

世衛(wèi)組織總干事譚德塞博士說：“人工智能為健康帶來了巨大希望，但也帶來了嚴(yán)峻挑戰(zhàn)，包括不道德的數(shù)據(jù)收集，網(wǎng)絡(luò)安全威脅以及放大偏差或錯誤信息等。這一新指導(dǎo)將支持各國有效監(jiān)管人工智能，發(fā)揮其潛力，無論是在治療癌癥還是檢測結(jié)核病方面，同時最大限度降低風(fēng)險。”

為了響應(yīng)各國在負(fù)責(zé)任地管理快速崛起的人工智能衛(wèi)生技術(shù)方面日益增長的需求，該出版物概述了衛(wèi)生領(lǐng)域人工智能的六個監(jiān)管領(lǐng)域。

• 為了促進(jìn)信任，該出版物強(qiáng)調(diào)了透明度和文檔的重要性，例如記錄產(chǎn)品的整個生命周期和跟蹤開發(fā)過程。
• 在風(fēng)險管理方面，必須全面解決“預(yù)期用途”、“持續(xù)學(xué)習(xí)”、人為干預(yù)、培訓(xùn)模型和網(wǎng)絡(luò)安全威脅等問題，并使模型盡可能簡單。
• 由外部驗證數(shù)據(jù)并明確人工智能的預(yù)期用途可有助于確保安全性并促進(jìn)監(jiān)管。
• 承諾保證數(shù)據(jù)質(zhì)量，例如嚴(yán)格評估系統(tǒng)的預(yù)發(fā)布功能，這對于確保系統(tǒng)不會放大偏差和錯誤至關(guān)重要。
• 解決重要且復(fù)雜的法規(guī)（例如歐洲的《通用數(shù)據(jù)保護(hù)條例》和美國的《健康保險流通與責(zé)任法案》）帶來的挑戰(zhàn)，重點了解管轄范圍和關(guān)于同意的要求，以幫助保護(hù)隱私和數(shù)據(jù)。
• 促進(jìn)監(jiān)管機(jī)構(gòu)、患者、衛(wèi)生保健專業(yè)人員、行業(yè)代表和政府伙伴之間的合作可有助于確保產(chǎn)品和服務(wù)在其整個生命周期內(nèi)符合監(jiān)管要求。

人工智能系統(tǒng)很復(fù)雜，不僅依賴其構(gòu)建代碼，還依賴其訓(xùn)練所用的數(shù)據(jù)，例如來自臨床環(huán)境和用戶互動的數(shù)據(jù)。加強(qiáng)監(jiān)管可以幫助管理風(fēng)險以防人工智能放大訓(xùn)練數(shù)據(jù)中的偏差。

例如，人工智能模型可能很難準(zhǔn)確體現(xiàn)人群的多樣性，從而導(dǎo)致偏差、不準(zhǔn)確甚至失敗。為了幫助減輕這些風(fēng)險，可以通過法規(guī)要求報告訓(xùn)練數(shù)據(jù)所涉人員的屬性（如性別，種族和民族），并有意使數(shù)據(jù)集具有代表性。

世衛(wèi)組織這一新出版物旨在概述政府和監(jiān)管機(jī)構(gòu)在國家或區(qū)域?qū)用嬷贫P(guān)于人工智能的新指導(dǎo)或調(diào)整現(xiàn)有指導(dǎo)時可以遵循的主要原則。