人工智能醫(yī)療器械醫(yī)療器械臨床試驗倫理審查要點 

2019年7月3日，醫(yī)療器械技術(shù)審評中心發(fā)布《深度學習輔助決策醫(yī)療器械軟件審評要點》，意味著三類人工智能醫(yī)療器械注冊審評標準正式落地，產(chǎn)業(yè)發(fā)展的政策瓶頸已被打破。2019年7月17日成立人工智能醫(yī)療器械創(chuàng)新合作平臺，以構(gòu)建開放協(xié)同共享的人工智能醫(yī)療器械創(chuàng)新體系，形成服務(wù)于科學監(jiān)管、科技創(chuàng)新、產(chǎn)品轉(zhuǎn)化的人工智能醫(yī)療器械創(chuàng)新合作平臺為目標愿景，將全力推動醫(yī)學人工智能產(chǎn)品審批。人工智能醫(yī)療器械是指器械的工作流程優(yōu)化、數(shù)據(jù)處理、輔助診斷等方面，采用以深度學習、神經(jīng)網(wǎng)絡(luò)為代表的數(shù)據(jù)驅(qū)動方式訓練算法的新一代人工智能技術(shù)的醫(yī)療器械。

一、國內(nèi)外人工智能醫(yī)療器械的概況

人工智能系統(tǒng)有比人類更強的觀察力和洞察力，可快速處理海量醫(yī)療和病人信息，提供輔助建議，幫助決策和減少人為偏差，協(xié)助醫(yī)生將有限精力集中于病人。人工智能系統(tǒng)可基于新信息、結(jié)果和操作不斷學習，有助于醫(yī)療專業(yè)人員作出更加明智、及時的決策 。隨著逐漸落實分級診療和國產(chǎn)醫(yī)療器械的快速發(fā)展，醫(yī)療器械公司為保持其產(chǎn)品競爭優(yōu)勢以瓜分更多基層醫(yī)療市場的蛋糕，除重視硬件質(zhì)量外，也注重設(shè)備智能化，特別是配套的篩查系統(tǒng)和輔助診斷?；鶎俞t(yī)療機構(gòu)缺乏優(yōu)秀醫(yī)生，對人工智能醫(yī)療器械需求大，將是人工智能浪潮的最大受益者和主戰(zhàn)場。

1.1 人工智能醫(yī)療器械的研發(fā)模式

讓醫(yī)療器械產(chǎn)品變得更加智能是趨勢，可提高產(chǎn)品的競爭力。智能化、數(shù)字化醫(yī)療實現(xiàn)醫(yī)療設(shè)備的全生命周期管理是國際大公司的發(fā)展重點。在合作方式上，因為目前沒有明確的收費項目，如肺結(jié)節(jié)篩查類產(chǎn)品主要以兩種方式進入醫(yī)院：一是以科研項目的方式同醫(yī)院合作；二是同醫(yī)療器械廠商合作，以整體服務(wù)包的形式進入。

對于醫(yī)療人工智能公司來說，產(chǎn)品研發(fā)出來以后，與醫(yī)療器械公司的合作有兩種好處，一方面可以通過科研合作的方式，驗證自己產(chǎn)品的實際臨床效果。另一方面，現(xiàn)在大多數(shù)醫(yī)療人工智能公司都在尋找合適的盈利模式。但由于醫(yī)療的嚴謹性，我國尚無針對人工智能產(chǎn)品的認證標準，以往公司常依據(jù)醫(yī)療器械的認證流程認證二類醫(yī)療器械或者三類醫(yī)療器械。在沒有獲得認證之前，很多人工智能公司通過與醫(yī)療器械公司的合作，將系統(tǒng)搭載在醫(yī)療器械上，醫(yī)療器械公司只需去省級食品藥品監(jiān)督管理局進行報備，不需要進行重新的認證，就可在市場上銷售，所得的銷售利潤可以按照雙方提前商量好的比例進行分成。

1.2 人工智能醫(yī)療器械的應(yīng)用

2011年IBM的Watson開啟人工智能醫(yī)療的商業(yè)發(fā)展，深度學習算法歷經(jīng)多次換代。2016年1月，IBM和美敦力合推糖尿病監(jiān)測APP，借助數(shù)據(jù)分析結(jié)果，可提前3小時預(yù)測低血糖的發(fā)生，大大改善病人生活質(zhì)量。IBM的Watson至今仍未獲得美國食品藥品監(jiān)督管理局的認證，但其服務(wù)都是在法律允許的框架之內(nèi)。

根據(jù)全球市場洞察力（Global Market Insight）的數(shù)據(jù)報告顯示，人工智能醫(yī)療影像緊隨人工智能藥物研發(fā)成為第二大細分市場，占比25%，并將以超過40%的增速發(fā)展，預(yù)計2024年將達25億美元規(guī)模。人工智能在醫(yī)療影像領(lǐng)域的應(yīng)用主要包含，圖像或檢查的分類，器官、區(qū)域或標記點的定位，目標及病理的檢測，組織結(jié)構(gòu)的分割，病灶區(qū)的分割以及圖像配準等，針對的疾病主要有肺結(jié)節(jié)、糖尿病性視網(wǎng)膜病變、腦卒中等，應(yīng)用方向主要有疾病篩查、病灶勾畫和臟器三維成像。對細分病種的增強覆蓋和根據(jù)自身業(yè)務(wù)特點對新場景的探索是未來發(fā)展方向。

各公司正通過將人工智能醫(yī)療器械產(chǎn)品投入醫(yī)院免費試用來積累大量臨床數(shù)據(jù)，以此提高臨床應(yīng)用的精準度，為申報國家藥品監(jiān)督管理局認證提供可靠的數(shù)據(jù)基礎(chǔ)，縮小臨床結(jié)果與實驗室結(jié)果之間的差異。這卻給不熟悉人工智能醫(yī)療器械審查注意事項的倫理委員會帶來極大挑戰(zhàn)。

1.3 美國人工智能醫(yī)療器械審批現(xiàn)狀

美國食品藥品監(jiān)督管理局的人工智能影像系統(tǒng)分為計算機輔助檢測（computer-aided detection）和計算機輔助診斷（computer-assisted diagnostic），前者用于檢測身體異常狀況，后者評估疾病的存在與否，比如嚴重性、疾病分類或預(yù)測。為加快醫(yī)療人工智能審評審批進程，2017年7月，美國食品藥品監(jiān)督管理局發(fā)布數(shù)字健康創(chuàng)新行動計劃，根據(jù)電子健康產(chǎn)品特征、臨床應(yīng)用前景、用戶界面特性和商業(yè)化周期等，建立新型實效性強的監(jiān)管方法。

美國食品藥品監(jiān)督管理局已批準多個人工智能醫(yī)療器械，審批遠快于中國。如2018年2月審批了第一個針對中風的人工智能診斷決策支持產(chǎn)品（ContaCT）；同月審批了第一個針對兒童自閉癥的人工智能診斷決策支持系統(tǒng)，Cognoa公司的一款深度學習應(yīng)用；2018年4月批準了IDx公司首個自主式人工智能診斷設(shè)備IDx-DR的軟件程序，可通過查看視網(wǎng)膜照片對糖尿病性視網(wǎng)膜病變進行自主診斷；2018年5月批準了新型人工智能工具OsteoDetect，用人工智能算法協(xié)助醫(yī)生快速診斷腕骨骨折。在醫(yī)學影像方面，美國食品藥品監(jiān)督管理局首次批準通用電氣公司的低劑量CT肺癌篩查方案，可精準成像，發(fā)現(xiàn)早期的微小結(jié)節(jié)，通過自動標記難識別的肺結(jié)節(jié)，輔助醫(yī)生快速、精準地進行篩查。

美國醫(yī)療人工智能行業(yè)已有不少產(chǎn)品上市，我國醫(yī)療人工智能行業(yè)也盡快需要拳頭級產(chǎn)品在國際上參與競爭。據(jù)報道，2018年11月底國家藥品監(jiān)督管理局對創(chuàng)新特別審批申請的1 054項項目進行審批，同意了192項，含已獲批上市的51項創(chuàng)新醫(yī)療器械，但都不是人工智能醫(yī)療器械。

二、人工智能醫(yī)療器械的研發(fā)現(xiàn)狀

在機器學習與深度學習越來越風靡的高科技行業(yè)中，利用人工智能進行影像三維分割、病理圖像分析處理、個性化精準醫(yī)療等方面的工作來輔助醫(yī)生進行診斷與治療方案擬定已日漸普及。

2.1 我國人工智能醫(yī)療器械分類

原國家食品藥品監(jiān)督管理總局發(fā)布的新版《醫(yī)療器械分類目錄》已于2018年8月1日起施行。特意新增了與人工智能輔助診斷相對應(yīng)的類別，即目錄中的對醫(yī)學影像與病理圖像的分析與處理。我國人工智能定位于輔助診斷，協(xié)助醫(yī)生而不可直接服務(wù)于病人。按照最新的分類規(guī)定，把醫(yī)用軟件按二類、三類醫(yī)療器械設(shè)置審批通道。若診斷軟件通過其算法提供診斷建議，只能輔助診斷，不直接出具診斷結(jié)論，其相關(guān)產(chǎn)品按二類醫(yī)療器械管理。若診斷軟件通過其算法可自動識別病變部位和提供明確的診斷提示，其風險級別相對較高，其相關(guān)產(chǎn)品按三類醫(yī)療器械管理?？梢姰斍叭斯ぶ悄墚a(chǎn)品大多屬于三類醫(yī)療器械。

美國批復(fù)的人工智能產(chǎn)品大都是走二類醫(yī)療器械的認證流程，通過跟傳統(tǒng)臨床決策支持系統(tǒng)做等同對比證明安全有效性。相比我國絕大部分人工智能醫(yī)療器械產(chǎn)品被定為三類醫(yī)療器械，大部分人工智能產(chǎn)品在美國都被定為二類醫(yī)療器械，我國對待人工智能醫(yī)療器械產(chǎn)品的審批態(tài)度更慎重，法規(guī)相對更嚴謹，對臨床評價的路徑控制更嚴格。

三類醫(yī)療器械的申報需有臨床試驗數(shù)據(jù)支撐，部分二類醫(yī)療器械可豁免臨床試驗，但診斷軟件的申報可否豁免臨床試驗，國家藥品監(jiān)督管理局尚無具體規(guī)范。當前人工智能醫(yī)療器械企業(yè)中，僅武漢蘭丁的全自動數(shù)字（遠程）病例分析儀和EDDA科技公司研發(fā)的IQQA人工智能賦能平臺獲得國家藥品監(jiān)督管理局認證，其他企業(yè)都還處于免費提供試用的階段。目前尚未有一款產(chǎn)品獲得三類人工智能醫(yī)療器械證書。業(yè)內(nèi)認為我國人工智能醫(yī)療器械獲得注冊證的困難之處在于：對產(chǎn)品的認識速度跟不上對審評的認識程度，對高風險產(chǎn)品的臨床驗證滿足不了臨床的實際需求。而這些問題的解決還有賴技術(shù)的突破和臨床驗證的積累。

2.2 企業(yè)應(yīng)對策略

為適應(yīng)國家政策，我國大部分人工智能醫(yī)療器械企業(yè)刪除和增加診斷功能，同時按照二、三類醫(yī)療器械申報。當前一些企業(yè)已獲二類人工智能醫(yī)療器械證書，不少人工智能企業(yè)都在積極進行三類醫(yī)療器械的申報。隨著分類目錄的出現(xiàn)，現(xiàn)階段各家醫(yī)療人工智能公司在研發(fā)產(chǎn)品的同時理應(yīng)加速國家藥品監(jiān)督管理局認證的過程，這樣在市場化過程中才可以在相對平等的條件下和醫(yī)療器械公司、醫(yī)療機構(gòu)達成合作。在具備盈利可能性的前提下，保護自己的品牌不成為醫(yī)療器械公司的附庸。

2.3 已進入注冊申報階段

根據(jù)醫(yī)療器械注冊流程，要經(jīng)過產(chǎn)品定型、檢測、臨床試驗、注冊申報、技術(shù)審評、行政審批這六步。檢測報告和臨床試驗報告是注冊申報的前提條件，通過之后國家藥品監(jiān)督管理局才會正式受理。目前已有90多家企業(yè)跟國家藥品監(jiān)督管理局就三類證書的申請進行溝通，具體包括數(shù)據(jù)集的整理、敏感性特異性指標的評估、安全性有效性的評估等方面。國家藥品監(jiān)督管理局2019年5月27日公布了《創(chuàng)新醫(yī)療器械特別審查申請審查結(jié)果公示》(2019年第6號)，深圳硅基智能科技有限公司申報的“糖尿病視網(wǎng)膜病變分析軟件”產(chǎn)品已獲批創(chuàng)新醫(yī)療器械，進入臨床試驗及審評快速綠色通道。國家藥品監(jiān)督管理局在創(chuàng)新產(chǎn)品的審批申報方面還開通申報的綠色通道等優(yōu)惠政策。

中國食品藥品檢定研究院負責人工智能醫(yī)療器械產(chǎn)品的質(zhì)量評價與研究工作。并非全部產(chǎn)品需臨床試驗后才能上市，源于真實世界的臨床試驗數(shù)據(jù)可用于臨床前及臨床的評價，前瞻性和回顧性的臨床數(shù)據(jù)可用于臨床評價。中國食品藥品檢定研究院規(guī)劃的人工智能醫(yī)療器械檢驗體系有四個步驟：標準數(shù)據(jù)、體模測試、軟件性能、模擬對抗，已建立起了彩色眼底圖像和肺部CT影像兩個數(shù)據(jù)庫。數(shù)據(jù)庫構(gòu)建過程主要包括數(shù)據(jù)收集、圖像標注、數(shù)據(jù)管理三個步驟。

三、人工智能醫(yī)療器械倫理審查的核心問題

人工智能醫(yī)療器械倫理審查的問題除人工智能和醫(yī)療器械各自問題外，也有人工智能與醫(yī)療器械疊加帶來的問題。已有文獻概述了醫(yī)療器械倫理審查的要點。人工智能應(yīng)用于醫(yī)療領(lǐng)域的倫理問題，包括公平受益、失業(yè)、患者隱私、醫(yī)療安全、責任劃分和監(jiān)管等。其原因涉及未遵守基本倫理原則、技術(shù)缺陷、立法和監(jiān)管缺失、隱含算法偏見、數(shù)據(jù)質(zhì)量欠佳等。鑒于目前人工智能算法準確度和適應(yīng)性是限制其臨床應(yīng)用的瓶頸，因此人工智能醫(yī)療器械倫理審查的核心問題包括難以準確評估風險、建立恰當類型數(shù)據(jù)庫、確保數(shù)據(jù)安全、算法更新導(dǎo)致軟件迭代等。

3.1 難以準確評估風險

人工智能醫(yī)療器械的使用與健康息息相關(guān)，風險評估尤為重要。臨床使用風險應(yīng)考慮數(shù)據(jù)質(zhì)量控制、算法泛化能力的直接影響和算力所用計算資源（即運行環(huán)境）失效的間接影響。為使風險最小化，確保人工智能醫(yī)療器械的可靠性，需在使用過程中評估其風險。倫理審查中應(yīng)注意其考量因素是否包括了臨床使用中的假陽性、假陰性和進口軟件的中外差異，以及風險管理活動相關(guān)的預(yù)期用途、使用場景、核心功能及措施、要求。

3.2 建立恰當類型數(shù)據(jù)庫

數(shù)據(jù)是人工智能醫(yī)療器械的核心要素，將成為制約人工智能醫(yī)療器械發(fā)展的瓶頸。因此，數(shù)據(jù)庫的建立是人工智能醫(yī)療器械審批的先行之舉，2019年7月17日之前我國僅存在肺結(jié)節(jié)和眼底兩類影像數(shù)據(jù)庫，未來將建立肺CT、腦磁共振、冠狀動脈CT血管造影等更多測試樣本數(shù)據(jù)庫，且明確測試數(shù)據(jù)庫的類型包含檢驗數(shù)據(jù)庫、真實世界數(shù)據(jù)。2018年9月以來，多達230家醫(yī)院IBM Watson診療系統(tǒng)由于開不安全藥物、診斷錯誤而備受質(zhì)疑，導(dǎo)致美國德克薩斯州安德森腫瘤中心在已投入6 700萬美元后放棄該項目。據(jù)《華爾街日報》等媒體報道，Watson診療系統(tǒng)的訓練用真實病例數(shù)很小，肺癌635例已屬最多，卵巢癌106例為最少。基于足夠數(shù)量的數(shù)據(jù)庫樣本用于訓練人工智能醫(yī)療器械，將大幅降低其誤診率和漏診率。

3.3 確保數(shù)據(jù)安全

數(shù)據(jù)安全已成為人工智能的關(guān)注重點。人工智能醫(yī)療器械的網(wǎng)絡(luò)安全存在較多隱患且無法得到及時修復(fù)，有些企業(yè)并不須具備必要的網(wǎng)絡(luò)安全風險防控能力，其網(wǎng)絡(luò)安全主動發(fā)現(xiàn)和監(jiān)測預(yù)警能力均有待提升。有些企業(yè)在設(shè)計時沒有考慮健康數(shù)據(jù)傳輸過程中的保密性等安全問題。企業(yè)作為運營者應(yīng)承擔主體防護責任，主管部門應(yīng)履行監(jiān)管責任。數(shù)據(jù)安全性的提高需得到醫(yī)療機構(gòu)的配合，醫(yī)療機構(gòu)在對健康數(shù)據(jù)進行歸檔、備份等數(shù)據(jù)傳輸操作時，尤其是通過公共互聯(lián)網(wǎng)傳輸敏感數(shù)據(jù)時，若未對敏感數(shù)據(jù)進行加密處理，容易造成患者治療信息、基因等重要醫(yī)療健康數(shù)據(jù)信息泄露。

醫(yī)療行業(yè)成為數(shù)據(jù)泄露的重災(zāi)區(qū)，由黑客滲透入侵導(dǎo)致的數(shù)據(jù)泄露事件增速最快，由于服務(wù)器配置不當、漏洞等因素造成的未授權(quán)訪問問題也日益增多。2017年美國就有15次重大醫(yī)療信息泄露事件，約300萬名病人的信息被泄露。我國同樣面臨類似嚴峻挑戰(zhàn)，2017年9月《法制日報》報道了一醫(yī)院服務(wù)信息系統(tǒng)遭黑客入侵，多達7億多條信息被泄露，8 000多萬條信息被販賣。

3.4 算法更新導(dǎo)致軟件迭代

軟件更新是導(dǎo)致人工智能軟件召回的主要原因之一，應(yīng)考慮對軟件安全性和有效性的正面和負面影響。軟件更新包括數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新，由此產(chǎn)生重大軟件更新、輕微軟件更新及其版本命名規(guī)則。表面看來，算法作為一種數(shù)學結(jié)構(gòu)，具有客觀的和確定性的特征。因此，算法決策應(yīng)該不大可能會受到人們的情感和價值觀的影響，但實際情況卻恰恰相反。人工智能的算法雖說只是一種數(shù)學表達，看似與價值無關(guān)，實際上卻不可避免地存在主觀偏見。這種偏見的來源是多方面的，既有可能來自于訓練系統(tǒng)的數(shù)據(jù)輸入，又有可能來自于編程人員的價值觀嵌入。為加快人工智能醫(yī)療器械的審批，基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究可用于臨床評價，甚至算法性能評估可采用屬于回顧性研究的第三方數(shù)據(jù)庫。

2019年4月2日美國食品藥品監(jiān)督管理局發(fā)布人工智能醫(yī)療器械變更的監(jiān)管框架的討論稿及征求意見，已于2019年6月3日前提交了討論意見稿。擬議的監(jiān)管框架可使美國食品藥品監(jiān)督管理局和制造商從上市前開發(fā)到上市后對軟件產(chǎn)品性能進行評估和監(jiān)控。這個潛在的框架允許將人工智能醫(yī)療器械的迭代改進能力納入其監(jiān)督管理范圍之內(nèi)，同時確?；颊叩陌踩?。也需向公眾征求對人工智能醫(yī)療器械監(jiān)管的意見和看法。

四、倫理審查的要點

新事物該如何監(jiān)管，對于企業(yè)和監(jiān)管部門來說都是挑戰(zhàn)。為給所有企業(yè)一個導(dǎo)引，2018年12月25日在北京舉辦“人工智能類醫(yī)療器械注冊申報公益培訓”，公布了人工智能領(lǐng)域三類醫(yī)療器械審批要點，界定了適用范圍，講解了人工智能醫(yī)療產(chǎn)品在審批過程中所面臨的數(shù)據(jù)庫、數(shù)據(jù)安全、軟件更新、云計算服務(wù)等問題。醫(yī)療器械技術(shù)審評中心安排了資深醫(yī)療器械審評專家，對醫(yī)療器械的法規(guī)與注冊流程、設(shè)計開發(fā)與注冊申報資料要求、醫(yī)療器械臨床評價與臨床試驗、創(chuàng)新醫(yī)療器械特別審批程序、人工智能醫(yī)療器械數(shù)據(jù)質(zhì)量控制要求、深度學習輔助決策軟件審評要點等進行了專題講解。但這些審批流程和要點不是法律法規(guī)，而是技術(shù)文件，而技術(shù)文件可以根據(jù)技術(shù)的發(fā)展和產(chǎn)品的特點變化而改變。三類醫(yī)療器械審批要點的出爐對于醫(yī)療人工智能領(lǐng)域來說，無疑是一重大突破，尤其是對之前軟件涉及不明確的數(shù)據(jù)問題，算法更新問題以及風險評估維度等都給出了定性。國家藥品監(jiān)督管理局跟美國食品藥品監(jiān)督管理局溝通緊密，亦參考了美國的做法，目前已經(jīng)形成統(tǒng)一標準。

原國家食品藥品監(jiān)督管理總局與國家衛(wèi)生計生委于2016年3月共同頒布了《醫(yī)療器械臨床試驗質(zhì)量管理規(guī)范》，告別了參考《藥物臨床試驗質(zhì)量管理規(guī)范》的歷史，明確了醫(yī)療器械臨床試驗的倫理審查要求。但迄今尚無針對醫(yī)療器械臨床試驗的倫理審查工作指導(dǎo)原則，更多參照《藥物臨床試驗倫理審查工作指導(dǎo)原則》。評估受試者的風險與受益是倫理審查的核心任務(wù)。醫(yī)療器械臨床試驗項目的評審主要從受試產(chǎn)品與試驗操作兩個方面予以關(guān)注和考慮。倫理委員會除審查醫(yī)療器械本身的科學性和倫理性外，也要審查醫(yī)療器械與人工智能軟件疊加帶來的風險與受益。鑒于目前人工智能醫(yī)療器械大部分仍處于注冊申報階段，臨床正在或即將開展的大部分項目是企業(yè)以科研方式進入醫(yī)院，并免費試用為主。醫(yī)療機構(gòu)應(yīng)與企業(yè)簽訂合同，明確補償和傷害受試者的賠償，也要明確未來產(chǎn)品成果和知識產(chǎn)權(quán)的分享方式。鑒于人工智能醫(yī)療器械的前沿性，必要時需聘請獨立顧問。

4.1 適用范圍

根據(jù)深度學習輔助決策醫(yī)療器械軟件分類，有醫(yī)療器械數(shù)據(jù)、深度學習、輔助決策、醫(yī)療器械軟件；依據(jù)軟件類型可分為人工智能軟件組件（醫(yī)療器械內(nèi)含的人工智能軟件）和人工智能獨立軟件（本身即為醫(yī)療器械的人工智能軟件）；根據(jù)軟件用途分為輔助決策（包括但不限于輔助篩查、輔助識別、輔助診斷、輔助治療），以及前處理（如成像質(zhì)量改善、成像速度提升、圖像重建）、流程優(yōu)化（如一鍵操作）、常規(guī)后處理（如圖像分割、數(shù)據(jù)測量）等非輔助決策。其中人工智能獨立軟件的適用范圍包括：（1）明確預(yù)期用途、使用場景和核心功能。（2）包括但不限于處理對象、目標疾病、臨床用途、患者人群、目標用戶、使用場所、數(shù)據(jù)采集設(shè)備要求(若適用)、臨床使用限制(若適用)。人工智能軟件組件的適用范圍可參照人工智能獨立軟件要求，并在產(chǎn)品適用范圍中予以體現(xiàn)。

4.2 研究要求與資料

所有人工智能軟件功能均應(yīng)開展需求分析、數(shù)據(jù)收集(若適用)、算法設(shè)計和軟件確認；且每項人工智能軟件功能應(yīng)獨立開展需求分析、數(shù)據(jù)收集(若適用)、算法設(shè)計、軟件確認。對于算法設(shè)計，提供算法設(shè)計的相關(guān)資料，包括算法選擇及訓練。要注意是否采取避免偏見的措施。算法設(shè)計應(yīng)當考慮算法選擇、算法訓練、網(wǎng)絡(luò)安全防護、算法性能評估等活動的質(zhì)控要求。建議數(shù)據(jù)驅(qū)動與知識驅(qū)動相結(jié)合進行算法設(shè)計，以提升算法可解釋性。算法性能上要注意假陽性與假陰性指標、重復(fù)性與再現(xiàn)性、魯棒性/健壯性。對于深度學習非輔助決策軟件，前處理需遵循算法性能評估、臨床評價；流程優(yōu)化需算法性能評估；常規(guī)后處理需算法性能評估，必要時需臨床評價。

研究資料包括軟件描述文檔、網(wǎng)絡(luò)安全描述文檔、軟件版本命名規(guī)則。軟件描述文檔要求核心算法部分應(yīng)當結(jié)合本審評要點提供相應(yīng)算法研究資料，以及測試集、公開數(shù)據(jù)庫、測評數(shù)據(jù)庫、回顧性研究、算法性能評估結(jié)果比較分析資料。其他資料應(yīng)當提供網(wǎng)絡(luò)與數(shù)據(jù)安全過程控制研究資料、第三方數(shù)據(jù)庫(測評、公開)的基本信息(如名稱、創(chuàng)建者、數(shù)據(jù)量、數(shù)據(jù)分布)和使用情況(如使用量、數(shù)據(jù)分布、比重、資質(zhì))。

研究者手冊中，輔助決策軟件應(yīng)明確軟件的適用范圍、臨床使用限制、注意事項、用戶培訓、數(shù)據(jù)采集設(shè)備要求、數(shù)據(jù)采集操作規(guī)范、輸入與輸出、算法性能評估總結(jié)(測試集基本信息、評估指標與結(jié)果)、臨床評價總結(jié)(臨床數(shù)據(jù)基本信息、評價指標與結(jié)果)等信息。此外，企業(yè)應(yīng)結(jié)合法規(guī)、標準、用戶、產(chǎn)品、數(shù)據(jù)、功能、性能、接口、用戶界面、網(wǎng)絡(luò)安全等分析需求，以避免臨床需求和使用風險。

4.3 研究方案

臨床試驗需基于軟件的預(yù)期用途、使用場景和核心功能，按照診斷試驗進行臨床試驗設(shè)計，其核心要點包括：（1）試驗設(shè)計：建議優(yōu)先選擇同品種產(chǎn)品或臨床參考標準進行非劣效對照設(shè)計，次之可選擇用戶結(jié)合軟件聯(lián)合決策與用戶單獨決策進行優(yōu)效對照設(shè)計；非劣效或優(yōu)效界值的確定應(yīng)有充分臨床依據(jù)。此外考慮到用戶的差異性，可選擇多閱片者多病例試驗設(shè)計。（2）觀察指標：以敏感性、特異性、接受者操作特征曲線（receiver operating characteristic,ROC)/曲線下面積(area under curve,AUC)為主要指標，亦可選擇時間效率等指標作為評價指標。（3）入排標準：基于目標疾病的流行病學特征。（4）參與機構(gòu)：異于訓練數(shù)據(jù)主要來源機構(gòu)，地域分布盡可能廣泛，機構(gòu)數(shù)量需盡可能多。

4.4 風險控制

風險考量即是對人工智能產(chǎn)品在使用過程中的風險進行評價，以達到抑制風險，提高人工智能產(chǎn)品可靠性的目的。主要考量臨床使用風險，如假陽性（誤診，過度醫(yī)療風險），假陰性（漏診，快速進展疾病風險）和進口軟件的中外差異(人種、流行病學、臨床診療準則)。同時考量風險管理活動，包括預(yù)期用途(目標疾病、臨床用途、重要程度、緊迫程度)、使用場景(適用人群、目標用戶、使用場所、臨床流程)、核心功能(處理對象、數(shù)據(jù)兼容性、功能類型)，采取必要的軟件設(shè)計、防護、警示等措施管理軟件全生命周期的風險。也要考慮臨床使用限制，包括臨床禁用、慎用等場景。

4.5 數(shù)據(jù)庫

數(shù)據(jù)收集應(yīng)包括目標疾病流行病學特征，如疾病構(gòu)成(分型、分級、分期)、人群分布(健康狀態(tài)、性別、年齡)、統(tǒng)計指標(患病率、治愈率)、并發(fā)癥與類似疾病等。采集的數(shù)據(jù)應(yīng)當進行數(shù)據(jù)脫敏以保護患者隱私。數(shù)據(jù)脫敏應(yīng)當明確脫敏的類型（靜態(tài)、動態(tài)）、規(guī)則、程度、方法。

臨床評價可采用基于現(xiàn)有歷史數(shù)據(jù)的回顧性研究。回顧性研究應(yīng)當在設(shè)計時考慮并嚴格控制偏倚問題，原則上應(yīng)當包含多家、不同地域、不同層級的代表性臨床機構(gòu)(非訓練數(shù)據(jù)主要來源機構(gòu))的同期數(shù)據(jù)，盡可能來自多種、不同采集參數(shù)的采集設(shè)備。使用原則(基于風險)上，高風險軟件需臨床預(yù)試驗或臨床試驗的補充，中風險軟件需臨床預(yù)試驗或替代臨床試驗。

第三方數(shù)據(jù)庫屬于回顧性研究的一種特殊形式，可用于算法性能評估，但未必能夠完全滿足軟件確認的要求。第三方數(shù)據(jù)庫類型包括非測評數(shù)據(jù)庫和測評數(shù)據(jù)庫，其中公開數(shù)據(jù)庫等非測評數(shù)據(jù)庫不可用于軟件確認，評測數(shù)據(jù)庫可用于軟件確認。測評數(shù)據(jù)庫需滿足可擴展性、網(wǎng)絡(luò)與數(shù)據(jù)安全因素，并具有權(quán)威性、科學性、規(guī)范性、多樣性、封閉性、動態(tài)性。

4.6 數(shù)據(jù)安全

企業(yè)上市前后均應(yīng)考慮建設(shè)軟件自身網(wǎng)絡(luò)安全能力，也應(yīng)在軟件全生命周期過程中考慮網(wǎng)絡(luò)與數(shù)據(jù)安全過程控制要求?；究剂恐笜擞忻撁魯?shù)據(jù)轉(zhuǎn)移、封閉與開放網(wǎng)絡(luò)環(huán)境、數(shù)據(jù)接口兼容性、數(shù)據(jù)備份與恢復(fù)。云計算服務(wù)應(yīng)明確服務(wù)模式、部署模式、核心功能、數(shù)據(jù)接口、網(wǎng)絡(luò)安全能力和服務(wù)(質(zhì)量)協(xié)議。移動計算終端需結(jié)合終端的類型、特點和使用風險明確性能指標要求。

4.7 軟件更新

重大軟件更新要許可事項變更，而輕微軟件更新需質(zhì)量體系控制，但無需申請注冊變更。算法驅(qū)動型更新包括軟件所用算法、算法結(jié)構(gòu)、算法流程、所用框架、輸入與輸出等發(fā)生改變，包括算法重新訓練（即棄用原有訓練數(shù)據(jù)）；數(shù)據(jù)驅(qū)動型指僅由訓練數(shù)據(jù)量增加而促使軟件更新，實為算法驅(qū)動型軟件更新的特殊情況。對于重大軟件更新，判定需遵循的原則為算法驅(qū)動型軟件更新通常屬于重大軟件更新，數(shù)據(jù)驅(qū)動型軟件更新若導(dǎo)致算法評估結(jié)果發(fā)生顯著性改變(與前次注冊/倫理批件相比)則屬于重大軟件更新。

無論何種軟件更新，均應(yīng)根據(jù)質(zhì)量管理體系要求，驗證與確認與軟件更新類型、內(nèi)容和程度相適宜的活動。數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新均應(yīng)再評估算法性能和臨床應(yīng)用。屬于臨床科研項目的數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新，均需按照新項目進行倫理初始審查。對于高風險軟件，適用范圍變更應(yīng)當開展臨床試驗，其他情況原則上可使用舊的臨床試驗數(shù)據(jù)和回顧性研究。對于中低風險軟件，可使用臨床試驗數(shù)據(jù)和回顧性研究。

要明確并區(qū)分重大軟件更新和輕微軟件更新的版本命名規(guī)則，重大軟件更新應(yīng)列舉所有典型情況，并涵蓋數(shù)據(jù)驅(qū)動型和算法驅(qū)動型軟件更新。

標簽：第二三類醫(yī)療器械注冊證代辦、醫(yī)療器械注冊證代辦