聯(lián)系電話: 010-8882344888
忽如一夜春風(fēng)來，人工智能（AI）正以驚人的速度改變著世界?！爸亲儭北貙⒁l(fā)“質(zhì)變”。我們應(yīng)以何種姿態(tài)進(jìn)入AI紀(jì)元，讓AI成為撬動(dòng)行業(yè)變革的杠桿？當(dāng)技術(shù)一路飛奔，我們又該如何守住數(shù)據(jù)安全的底線、筑起倫理的護(hù)欄？近日，我們邀請(qǐng)相關(guān)研究機(jī)構(gòu)和高校專家，請(qǐng)他們分享觀察與思考。
我國(guó)醫(yī)療AI治理體系的發(fā)展方向當(dāng)前，我國(guó)對(duì)醫(yī)療AI有著嚴(yán)格的管控機(jī)制，在審評(píng)要點(diǎn)、指導(dǎo)原則、質(zhì)量管理體系等方面出臺(tái)了多項(xiàng)政策，嚴(yán)格約束AI在醫(yī)療中的使用規(guī)范，為AI醫(yī)療領(lǐng)域建立風(fēng)險(xiǎn)可控的發(fā)展路徑。相關(guān)的法律法規(guī)建設(shè)呈現(xiàn)出以下三個(gè)顯著的發(fā)展方向。從分散管理到系統(tǒng)規(guī)范早期政策《中華人民共和國(guó)網(wǎng)絡(luò)安全法》（2017）從數(shù)據(jù)安全角度單方面切入，其中第21條明確要求網(wǎng)絡(luò)運(yùn)營(yíng)者采取數(shù)據(jù)分類、重要數(shù)據(jù)備份和加密等措施；第37條則首次提出“關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者在中華人民共和國(guó)境內(nèi)運(yùn)營(yíng)中收集和產(chǎn)生的個(gè)人信息和重要數(shù)據(jù)應(yīng)當(dāng)在境內(nèi)存儲(chǔ)”的要求，這對(duì)醫(yī)療AI企業(yè)處理CT、MRI等影像數(shù)據(jù)產(chǎn)生了直接影響。2021年出臺(tái)的《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》形成了“數(shù)據(jù)采集——處理——應(yīng)用”的全鏈條監(jiān)管?！吨腥A人民共和國(guó)個(gè)人信息保護(hù)法》第28條將醫(yī)療健康信息列為“敏感個(gè)人信息”，要求處理此類信息需取得個(gè)人單獨(dú)同意，并告知處理的必要性及對(duì)個(gè)人權(quán)益的影響。該法第24條還對(duì)自動(dòng)化決策做出專門規(guī)定，要求保證決策的透明度和結(jié)果公平公正，這對(duì)AI輔助診斷系統(tǒng)的算法設(shè)計(jì)提出了明確要求?！秶?guó)家AI產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南（2024版）》的出臺(tái)，標(biāo)志著AI監(jiān)管向標(biāo)準(zhǔn)化、體系化方向發(fā)展。該指南詳細(xì)列出了基礎(chǔ)共性標(biāo)準(zhǔn)、關(guān)鍵技術(shù)標(biāo)準(zhǔn)、產(chǎn)品服務(wù)標(biāo)準(zhǔn)、行業(yè)應(yīng)用標(biāo)準(zhǔn)等，這些都為AI在醫(yī)療行業(yè)的應(yīng)用提供了依據(jù)和標(biāo)準(zhǔn)。從安全底線到創(chuàng)新促進(jìn)政策導(dǎo)向已從單純防范風(fēng)險(xiǎn)轉(zhuǎn)向安全與發(fā)展并重，2019年科技部發(fā)布《國(guó)家新一代AI創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》，支持北京、上海、深圳等城市建設(shè)AI試驗(yàn)區(qū)，推動(dòng)場(chǎng)景創(chuàng)新和產(chǎn)業(yè)集聚，同時(shí)對(duì)企業(yè)給予稅收優(yōu)惠。2021年修訂的《中華人民共和國(guó)科學(xué)技術(shù)進(jìn)步法》第103條中，要求建立科技倫理委員會(huì)，為AI醫(yī)療創(chuàng)新劃定倫理邊界；在第38條新增“引導(dǎo)建立社會(huì)化、專業(yè)化、網(wǎng)絡(luò)化、信息化和智能化的技術(shù)交易服務(wù)體系和創(chuàng)新創(chuàng)業(yè)服務(wù)體系，推動(dòng)科技成果的應(yīng)用和推廣?！钡谋硎?，說明國(guó)家在保障安全的同時(shí)，更注重發(fā)展和應(yīng)用。從國(guó)內(nèi)治理到國(guó)際協(xié)同2017年國(guó)務(wù)院印發(fā)《新一代AI發(fā)展規(guī)劃》，這是我國(guó)首個(gè)系統(tǒng)性AI戰(zhàn)略文件，提出了“三步走”目標(biāo)，即：2020年AI總體技術(shù)與世界先進(jìn)水平同步；2025年AI基礎(chǔ)理論實(shí)現(xiàn)重大突破；2030年成為世界主要AI創(chuàng)新中心。此外，2023年我國(guó)提出的《全球AI治理倡議》指出，AI治理攸關(guān)全人類命運(yùn)，是世界各國(guó)面臨的共同課題。在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，各國(guó)應(yīng)秉持共同、綜合、合作、可持續(xù)的安全觀，堅(jiān)持發(fā)展和安全并重的原則，通過對(duì)話與合作凝聚共識(shí)，構(gòu)建開放、公正、有效的治理機(jī)制，促使AI技術(shù)造福于人類，推動(dòng)構(gòu)建人類命運(yùn)共同體。協(xié)議一經(jīng)提出，就獲得了世界各國(guó)的響應(yīng)，到目前為止，多個(gè)國(guó)家和組織公開支持該倡議并簽署了協(xié)議，這也表明我國(guó)的AI治理已走到了國(guó)際舞臺(tái)的前沿。我國(guó)醫(yī)療AI治理體系的最新進(jìn)展當(dāng)前，我國(guó)醫(yī)療AI領(lǐng)域問題最為突出的是AI立法缺失、數(shù)據(jù)安全問題和倫理問題。近年來，治理體系圍繞三個(gè)方面開展了一系列的工作。在產(chǎn)品準(zhǔn)入方面，2023年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式AI服務(wù)管理辦法（征求意見稿）》公開征求意見，率先就生成式AI監(jiān)管這一議題給出中國(guó)方案。在AI法未立法之前，為了適應(yīng)社會(huì)需求，各部門出臺(tái)了很多相應(yīng)的管理制度和政策。國(guó)家藥品監(jiān)督管理局2021年發(fā)布《AI醫(yī)用軟件產(chǎn)品分類界定指導(dǎo)原則》，將AI軟件分為三類管理，細(xì)化了AI醫(yī)療產(chǎn)品審批標(biāo)準(zhǔn)。2022年，國(guó)家藥監(jiān)局器審中心發(fā)布了《AI醫(yī)療器械注冊(cè)審查指導(dǎo)原則》，規(guī)范了AI醫(yī)療器械的注冊(cè)申報(bào)資料和技術(shù)審評(píng)要求，以確保產(chǎn)品的安全性和有效性。在數(shù)據(jù)治理方面，醫(yī)療AI的發(fā)展高度依賴海量的患者醫(yī)療數(shù)據(jù)，這些數(shù)據(jù)包含敏感個(gè)人信息（如基因、病史），因此，匿名化處理不足或數(shù)據(jù)泄露可能導(dǎo)致法律糾紛和倫理危機(jī)。為解決相應(yīng)的問題，除了提高技術(shù)能力、開放共享程度，更需要一個(gè)統(tǒng)一的標(biāo)準(zhǔn)，在此方面中國(guó)電子商會(huì)發(fā)布了一項(xiàng)數(shù)據(jù)分類團(tuán)體標(biāo)準(zhǔn)，根據(jù)醫(yī)療健康數(shù)據(jù)的影響對(duì)象和影響程度，并參考數(shù)據(jù)重要程度、敏感程度、數(shù)據(jù)規(guī)模、數(shù)據(jù)精度等因素，確定醫(yī)療健康數(shù)據(jù)的安全等級(jí)。國(guó)家衛(wèi)生健康委發(fā)布的《衛(wèi)生健康行業(yè)數(shù)據(jù)分類分級(jí)指南》明確了責(zé)任“誰管業(yè)務(wù)，誰管數(shù)據(jù)，誰管數(shù)據(jù)安全”，并將數(shù)據(jù)分為三級(jí)：核心數(shù)據(jù)——基因序列、罕見病病例等（禁止出境）；重要數(shù)據(jù)——住院病歷、體檢等（安全評(píng)估后可出境）；一般數(shù)據(jù)——掛號(hào)信息、健康科普等（可自由流動(dòng)），并針對(duì)各類數(shù)據(jù)制定了相應(yīng)的管理辦法。在倫理規(guī)范方面，現(xiàn)有的醫(yī)學(xué)倫理審查規(guī)范在AI醫(yī)療領(lǐng)域存在很多空白，無法全面涵蓋AI技術(shù)應(yīng)用所帶來的倫理問題。例如，在AI算法的設(shè)計(jì)和應(yīng)用過程中，可能存在算法偏見，導(dǎo)致對(duì)某些特定人群的不公平對(duì)待；在AI誤診或技術(shù)故障發(fā)生時(shí)，如何界定開發(fā)者、醫(yī)療機(jī)彩神vi首頁(yè) 彩神構(gòu)和醫(yī)生的責(zé)任，缺乏明確的法律規(guī)范等。我國(guó)《新一代AI發(fā)展規(guī)劃》提出了建立AI倫理框架，強(qiáng)調(diào)醫(yī)療領(lǐng)域需保障數(shù)據(jù)安全。2023年由中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院發(fā)布的《AI倫理治理標(biāo)準(zhǔn)化指南》要求醫(yī)療AI系統(tǒng)需通過倫理審查，確保透明可追溯。同年5月科技部發(fā)布了《人類遺傳資源管理?xiàng)l例實(shí)施細(xì)則》，對(duì)AI醫(yī)療研究做出特別規(guī)定：使用500例以上基因數(shù)據(jù)需倫理審查，跨國(guó)合作研究需科技部備案，數(shù)據(jù)出境需通過安全評(píng)估。在責(zé)任劃分方面，《中華人民共和國(guó)民法典》中規(guī)定，若AI產(chǎn)品缺陷致?lián)p，生產(chǎn)者承擔(dān)無過錯(cuò)責(zé)任，但醫(yī)生“合理使用”可免責(zé)。某些地區(qū)的政策中要求醫(yī)院保留AI決策日志，作為責(zé)任判定依據(jù)。我國(guó)醫(yī)療AI治理體系的運(yùn)用前景綜上，我國(guó)的AI治理體系還需要進(jìn)一步完善。在法律法規(guī)與標(biāo)準(zhǔn)建設(shè)方面，一要完善《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》在醫(yī)療領(lǐng)域的實(shí)施細(xì)則，制定醫(yī)療AI專用法規(guī)。二是要推動(dòng)醫(yī)療AI算法、數(shù)據(jù)標(biāo)注、系統(tǒng)測(cè)試等全流程標(biāo)準(zhǔn)化，建立統(tǒng)一的倫理審查框架。在數(shù)據(jù)安全與隱私保護(hù)方面，要建立醫(yī)療數(shù)據(jù)分級(jí)分類管理制度，明確醫(yī)療機(jī)構(gòu)、企業(yè)和患者的數(shù)據(jù)權(quán)限。在倫理與公平性保障方面，要防范對(duì)特定人群誤診風(fēng)險(xiǎn)的算法偏見，確保醫(yī)療資源的公平可及。在動(dòng)態(tài)監(jiān)管與多方協(xié)同方面，要求政府、醫(yī)療機(jī)構(gòu)、科技企業(yè)、倫理委員會(huì)和公眾共同參與，共同制定治理規(guī)則。醫(yī)療AI將逐步從“替代人力”轉(zhuǎn)向“增強(qiáng)人力”，提升醫(yī)療質(zhì)量、降低醫(yī)療成本和促進(jìn)公平，成為“健康中國(guó)”戰(zhàn)略的重要支柱。醫(yī)療AI治理體系的建設(shè)則需在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)管控之間找到平衡，才能朝著更加規(guī)范化、透明化的方向發(fā)展。
