【廣東】人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全技術(shù)審評指導(dǎo)原則發(fā)布
文章來源：醫(yī)療器械創(chuàng)新網(wǎng)發(fā)布日期：2022-12-27瀏覽次數(shù)：78 本指導(dǎo)原則是人工智能醫(yī)學(xué)信息系統(tǒng)軟件審評指導(dǎo)體系構(gòu)建的組成部分，基于人工智能醫(yī)療器械審評指導(dǎo)原則和醫(yī)療器械網(wǎng)絡(luò)安全注冊審查指導(dǎo)原則的通用要求，細(xì)化了人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全的一般要求。本指導(dǎo)原則旨在指導(dǎo)注冊人規(guī)范人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全生存周期過程和為技術(shù)審評提供參考。不涉及相關(guān)行政審批事項，亦不作為法規(guī)強制執(zhí)行，應(yīng)在遵循相關(guān)法規(guī)的前提下使用本指導(dǎo)原則。本指導(dǎo)原則是在現(xiàn)行法規(guī)和標(biāo)準(zhǔn)體系以及當(dāng)前認(rèn)知水平下制定的，隨著法規(guī)和標(biāo)準(zhǔn)的不斷完善，以及科學(xué)技術(shù)的不斷發(fā)展，在使用過程中應(yīng)對相關(guān)內(nèi)容適時進行調(diào)整。本指導(dǎo)原則適用于人工智能醫(yī)學(xué)軟件的網(wǎng)絡(luò)安全的產(chǎn)品注冊，人工智能醫(yī)學(xué)軟件指采用人工智能技術(shù)（AI）實現(xiàn)其預(yù)期用途的醫(yī)學(xué)軟件，包括人工智能醫(yī)學(xué)獨立軟件和人工智能醫(yī)學(xué)軟件組件。如采用機器學(xué)習(xí)、模式識別、規(guī)則推理等技術(shù)實現(xiàn)醫(yī)療用途的獨立軟件和軟件組件。（一）人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全通過采取必要措施、防范對數(shù)據(jù)、模型等攻擊、侵入、干擾、破壞和非法使用以及意外事故，使軟件設(shè)備處于穩(wěn)定可靠運行的狀態(tài)，以及保障數(shù)據(jù)、模型等的完整性、保密性、可得性的能力。此外，人工智能醫(yī)學(xué)軟件是基于海量醫(yī)學(xué)數(shù)據(jù)和高算力算法的軟件，醫(yī)療數(shù)據(jù)包含個人標(biāo)識、健康狀況以及醫(yī)療情況等相關(guān)信息，盡管信息安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全的定義和范圍各有側(cè)重，即有聯(lián)系又有區(qū)別，但本指導(dǎo)原則對三者不做嚴(yán)格區(qū)分，統(tǒng)一采用網(wǎng)絡(luò)安全進行表述，綜合考慮軟件的信息安全和數(shù)據(jù)安全。數(shù)據(jù)不被未授權(quán)實體（含產(chǎn)品、服務(wù)、個人、組織）獲得或知悉的特性，即人工智能醫(yī)學(xué)軟件相關(guān)數(shù)據(jù)僅可由授權(quán)用戶在授權(quán)時間以授權(quán)方式進行訪問和使用。數(shù)據(jù)的創(chuàng)建、傳輸、存儲、顯示未以非授權(quán)方式進行更改（含刪除、添加）的特性，即人工智能醫(yī)學(xué)軟件相關(guān)數(shù)據(jù)是準(zhǔn)確和完整的，且未被篡改。數(shù)據(jù)可根據(jù)授權(quán)實體要求進行訪問和使用的特性，即人工智能醫(yī)學(xué)軟件自身和相關(guān)數(shù)據(jù)能以預(yù)期方式適時進行訪問和使用。除保密性、完整性、可得性三個基本特性外，人工智能醫(yī)學(xué)軟件產(chǎn)品網(wǎng)絡(luò)安全還需考慮真實性、抗抵賴性、可核查性、可靠性等特性。注冊人應(yīng)結(jié)合人工智能醫(yī)學(xué)軟件產(chǎn)品的預(yù)期用途、使用場景、核心功能進行綜合考量，從而確定人工智能醫(yī)學(xué)軟件產(chǎn)品網(wǎng)絡(luò)安全特性的具體要求。(三) 網(wǎng)絡(luò)安全的風(fēng)險級別人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全風(fēng)險與軟件風(fēng)險存在差異，但是網(wǎng)絡(luò)安全風(fēng)險作為軟件風(fēng)險的重要組成部分，其風(fēng)險級別亦可參照軟件采用安全性級別進行表述 。在通常情形下，人工智能醫(yī)學(xué)軟件網(wǎng)絡(luò)安全的安全性級別與所屬人工智能醫(yī)學(xué)軟件的安全性級別相同；在特殊情形下，網(wǎng)絡(luò)安全的安全性級別可低于軟件的安全性級別，如軟件運行于不通公網(wǎng)的環(huán)境或軟件運行于完全受控的環(huán)境，此時需詳述理由并按網(wǎng)絡(luò)安全的安全性級別提交相應(yīng)注冊申報資料。人工智能醫(yī)學(xué)軟件產(chǎn)品網(wǎng)絡(luò)安全風(fēng)險同樣結(jié)合軟件的預(yù)期用途、使用場景、核心功能進行綜合判定，特別是使用場景。不同使用場景的網(wǎng)絡(luò)環(huán)境不同，甚至存在巨大差異，對于人工智能醫(yī)學(xué)軟件產(chǎn)品網(wǎng)絡(luò)安全的影響亦不同，如門診、手術(shù)、住院、急救、家庭、轉(zhuǎn)運、公共場所等使用場景的網(wǎng)絡(luò)環(huán)境均有所不同，因此對于適用于多個使用場景的人工智能醫(yī)學(xué)軟件，注冊申請人需保證軟件在每個使用場景的網(wǎng)絡(luò)安全。三. 網(wǎng)絡(luò)安全風(fēng)險管理隨著人工智能技術(shù)的發(fā)展，越來越多醫(yī)學(xué)軟件產(chǎn)品使用人工智能技術(shù)實現(xiàn)輔助診斷、輔助分析等功能，大部分軟件具備網(wǎng)絡(luò)連接功能以實現(xiàn)電子數(shù)據(jù)交換或遠(yuǎn)程控制，在提升醫(yī)療服務(wù)質(zhì)量與效率的同時面臨著網(wǎng)絡(luò)攻擊的威脅。人工智能醫(yī)學(xué)軟件是基于海量醫(yī)學(xué)數(shù)據(jù)和高算力算法的軟件，醫(yī)療數(shù)據(jù)包含個人標(biāo)識、健康狀況以及醫(yī)療情況等相關(guān)信息，鑒于醫(yī)療數(shù)據(jù)的特殊性，這些信息如被泄露、篡改或濫用，會影響健康護理、醫(yī)學(xué)治療以及科學(xué)研究效果，在更嚴(yán)重的情況下會導(dǎo)致醫(yī)療事故發(fā)生。另一方面，醫(yī)療數(shù)據(jù)大量涉及個人信息，數(shù)據(jù)的泄露、濫用和不正當(dāng)披露會對個人信息安全造成侵害，甚至可能影響個人正常生活。因此，對于人工智能醫(yī)學(xué)軟件將帶來更多的網(wǎng)絡(luò)安全方面的考量，為保護個人健康醫(yī)療數(shù)據(jù)需要采取合理和適當(dāng)?shù)墓芾砗图夹g(shù)保證措施，以達(dá)到以下目標(biāo)：a)保護醫(yī)療數(shù)據(jù)使用和披露過程中的保密性 、完整性和可得性 ；b)確保醫(yī)療數(shù)據(jù)使用和披露過程的隱私性 ，保護個人隱私、個人權(quán)益。人工智能醫(yī)學(xué)軟件除考慮軟件自身網(wǎng)絡(luò)安全能力建設(shè)外，還應(yīng)當(dāng)在軟件全生命周期過程中考慮網(wǎng)絡(luò)與數(shù)據(jù)安全過程控制要求，包括上市前設(shè)計開發(fā)階段和上市后使用階段。上市前設(shè)計開發(fā)階段包括算法數(shù)據(jù)構(gòu)建階段、算法訓(xùn)練生成階段。算法數(shù)據(jù)構(gòu)建階段包括兩個過程，分別是數(shù)據(jù)獲取和數(shù)據(jù)整理：1.數(shù)據(jù)獲取部分是獲取用于訓(xùn)練/更新算法的數(shù)據(jù)，其中數(shù)據(jù)包括自身私有數(shù)據(jù)、供應(yīng)鏈數(shù)據(jù)、標(biāo)準(zhǔn)數(shù)據(jù)集、模型運行反饋數(shù)據(jù)等從多渠道獲取的數(shù)據(jù)。2.數(shù)據(jù)整理部分是為將獲取的數(shù)據(jù)整合成為能夠作為訓(xùn)練模型使用的數(shù)據(jù)，包括數(shù)據(jù)預(yù)處理、數(shù)據(jù)標(biāo)注、數(shù)據(jù)集構(gòu)建等過程及數(shù)據(jù)存儲。人工智能醫(yī)療軟件，區(qū)別一般的醫(yī)療器械軟件，人工智能醫(yī)學(xué)軟件依靠海量數(shù)據(jù)訓(xùn)練，所以應(yīng)識別該過程中網(wǎng)絡(luò)與數(shù)據(jù)安全風(fēng)險并進行有效控制。
