隨著醫(yī)療大模型的發(fā)展，這一產(chǎn)業(yè)合規(guī)運(yùn)營(yíng)與監(jiān)管顯得越發(fā)重要。
目前，監(jiān)管對(duì)醫(yī)療大模型的定位是生成式人工智能技術(shù)。因此，對(duì)于“醫(yī)療大模型”的監(jiān)管歸口部門可能包括《生成式人工智能服務(wù)管理暫行辦法》列舉的“網(wǎng)信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門”，“App專項(xiàng)治理”一類的跨部門形式，國(guó)家數(shù)據(jù)局，也可能包括垂直領(lǐng)域的衛(wèi)生健康行政部門和中醫(yī)藥主管部門。如果涉及新藥研發(fā)、新器械研發(fā)，還可能涉及國(guó)家藥監(jiān)局對(duì)于器審方面的監(jiān)管。
醫(yī)療大模型合規(guī)運(yùn)營(yíng)風(fēng)險(xiǎn)點(diǎn)
第一，訓(xùn)練數(shù)據(jù)合法性風(fēng)險(xiǎn)。由于《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《著作權(quán)法》等法律的限制，訓(xùn)練數(shù)據(jù)來(lái)源的合法性問題可能構(gòu)成大模型開發(fā)的實(shí)質(zhì)性障礙，無(wú)論是自身互聯(lián)網(wǎng)業(yè)務(wù)等積累的數(shù)據(jù)、從第三方采購(gòu)的數(shù)據(jù)還是互聯(lián)網(wǎng)公開數(shù)據(jù)，都可能涉及告知同意、匿名化、版權(quán)保護(hù)等問題。
第二，網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。大模型是一套信息系統(tǒng)，通常以SaaS或API等方式向個(gè)人或企業(yè)提供服務(wù)。與其他信息系統(tǒng)和網(wǎng)絡(luò)服務(wù)一樣，大模型也面臨常規(guī)的網(wǎng)絡(luò)安全問題。大模型運(yùn)營(yíng)者應(yīng)當(dāng)根據(jù)《網(wǎng)絡(luò)安全法》等法律及相關(guān)標(biāo)準(zhǔn)，采取適當(dāng)?shù)募夹g(shù)措施和管理措施，以保障系統(tǒng)免受干擾、破壞或者未經(jīng)授權(quán)的訪問，并依法辦理網(wǎng)絡(luò)安全等級(jí)保護(hù)備案和測(cè)評(píng)。規(guī)模或能力達(dá)到一定門檻的大模型，一旦遭到破壞可能危及國(guó)家安全、國(guó)計(jì)民生或公共利益，因而構(gòu)成關(guān)鍵信息基礎(chǔ)設(shè)施，需要按照《網(wǎng)絡(luò)安全法》等規(guī)定，采取更加嚴(yán)格的保護(hù)措施。
第三，醫(yī)療內(nèi)容準(zhǔn)確性問題（“幻覺”問題）風(fēng)險(xiǎn)。大模型生成內(nèi)容存在準(zhǔn)確性、可靠性問題，由于大模型本身主要是通過文字相互聯(lián)系的概率來(lái)生成內(nèi)容，因此在不實(shí)時(shí)核查的情況下基本無(wú)法保證輸出內(nèi)容的真實(shí)性和準(zhǔn)確性，尤其是在應(yīng)用于醫(yī)療領(lǐng)域的情況下，可能會(huì)影響診療準(zhǔn)確性。
第四，醫(yī)療宣傳規(guī)制風(fēng)險(xiǎn)?！吨腥A人民共和國(guó)廣告法》規(guī)定“通過一定媒介和形式直接或者間接地介紹自己所推銷的商品或者服務(wù)”的屬于廣告，《醫(yī)藥行業(yè)合規(guī)管理規(guī)范》規(guī)定“凡利用各種媒介或者形式發(fā)布的廣告含有藥品名稱、藥品適應(yīng)證（功能主治）或者與藥品有關(guān)的其他內(nèi)容的，為藥品廣告”，因此如果醫(yī)療大模型輸出對(duì)應(yīng)內(nèi)容的，可能存在被認(rèn)定為屬于“藥品廣告”的風(fēng)險(xiǎn)。
第五，相關(guān)應(yīng)用被認(rèn)定為“無(wú)備案/許可經(jīng)營(yíng)”的風(fēng)險(xiǎn)。原國(guó)家食品藥品監(jiān)督管理總局《醫(yī)療器械分類目錄》規(guī)定：診斷功能軟件風(fēng)險(xiǎn)程度以其采用算法的風(fēng)險(xiǎn)程度、成熟程度、公開程度等為判定依據(jù)，不僅僅以處理對(duì)象（如：癌癥、惡性腫瘤等疾病的影像）為判定依據(jù)。若診斷軟件通過其算法，提供診斷建議，僅具有輔助診斷功能，不直接給出診斷結(jié)論，本子目錄中相關(guān)產(chǎn)品按照第二類醫(yī)療器械管理。若診斷軟件通過其算法（例如，CAD，骨密度除外）對(duì)病變部位進(jìn)行自動(dòng)識(shí)別，并提供明確的診斷提示，則其風(fēng)險(xiǎn)級(jí)別相對(duì)較高，本子目錄中相關(guān)產(chǎn)品按照第三類醫(yī)療器械管理，因此如果相關(guān)應(yīng)用未注冊(cè)為醫(yī)療器械，則可能面臨被認(rèn)定為“未經(jīng)備案/許可從事醫(yī)療器械經(jīng)營(yíng)活動(dòng)”的風(fēng)險(xiǎn)。
醫(yī)療大模型運(yùn)營(yíng)企業(yè)風(fēng)險(xiǎn)規(guī)避路徑
有計(jì)劃想要布局醫(yī)療大模型產(chǎn)品業(yè)務(wù)的企業(yè)可采取以下有效措施來(lái)規(guī)避、消除風(fēng)險(xiǎn)：
第一，確定自身的產(chǎn)品定位為何并獲取對(duì)應(yīng)的資質(zhì)，避免無(wú)資質(zhì)開展相應(yīng)活動(dòng)。“醫(yī)療大模型”可能適用于不同的領(lǐng)域，包括“AI+新藥研發(fā)”“AI+醫(yī)學(xué)影像”“AI+醫(yī)療機(jī)器人”“AI+健康管理”“AI+互聯(lián)網(wǎng)醫(yī)療”等，其中，僅“AI+互聯(lián)網(wǎng)醫(yī)療”方面的應(yīng)用屬于互聯(lián)網(wǎng)診療。
《互聯(lián)網(wǎng)診療管理辦法（試行）》明確：互聯(lián)網(wǎng)診療是指醫(yī)療機(jī)構(gòu)利用在本機(jī)構(gòu)注冊(cè)的醫(yī)師，通過互聯(lián)網(wǎng)等信息技術(shù)開展部分常見病、慢性病復(fù)診和“互聯(lián)網(wǎng)＋”家庭醫(yī)生簽約服務(wù)。因此“醫(yī)療大模型問診是否屬于互聯(lián)網(wǎng)診療”，取決于是否有配套的互聯(lián)網(wǎng)醫(yī)院（如阿里健康西安高新互聯(lián)網(wǎng)醫(yī)院、成都雙流華府醫(yī)院桃子互聯(lián)網(wǎng)醫(yī)院等），以及是否通過末端應(yīng)用提供相應(yīng)的診療服務(wù)。
合規(guī)方面，首要應(yīng)當(dāng)確定自身的產(chǎn)品定位，如屬于互聯(lián)網(wǎng)診療產(chǎn)品的，需要聯(lián)系或建立對(duì)應(yīng)的實(shí)體醫(yī)療機(jī)構(gòu)并申請(qǐng)?jiān)O(shè)置相應(yīng)的互聯(lián)網(wǎng)醫(yī)院，并在醫(yī)師資源、病歷管理、藥品配送、處方開具上滿足相應(yīng)要求，如僅作健康管理，不涉及診療活動(dòng)的，必須明確自身產(chǎn)品不具有“醫(yī)療目的”，僅“預(yù)期用于健康管理、目標(biāo)人群為健康人群、記錄統(tǒng)計(jì)健康信息”用。
第二，應(yīng)當(dāng)采取數(shù)據(jù)清洗等方式確保去除公開數(shù)據(jù)中的違法和不良信息及個(gè)人信息，保證訓(xùn)練數(shù)據(jù)合法合規(guī)。醫(yī)療大模型收集用戶數(shù)據(jù)的要求，需要遵循合法、正當(dāng)、必要的原則，不收集與所提供服務(wù)無(wú)關(guān)的個(gè)人信息。
可以參考2019年3月《App違法違規(guī)收集使用個(gè)人信息自評(píng)估指南》的評(píng)估項(xiàng)檢查信息收集是否合規(guī)。醫(yī)療大模型收集用戶數(shù)據(jù)的紅線行為包括：未公開收集使用規(guī)則；未明示收集使用個(gè)人信息的目的、方式和范圍；未經(jīng)用戶同意收集使用個(gè)人信息；違反必要原則，收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息；未經(jīng)同意向他人提供個(gè)人信息；未按法律規(guī)定提供刪除或更正個(gè)人信息功能或未公布投訴、舉報(bào)方式等信息。
收集互聯(lián)網(wǎng)公開數(shù)據(jù)時(shí)，為實(shí)現(xiàn)其合法合規(guī)，還需要履行告知同意程序、匿名化程序、提供拒絕渠道等操作。此外，應(yīng)當(dāng)注重?cái)?shù)據(jù)集標(biāo)注機(jī)制，通過標(biāo)注實(shí)現(xiàn)防止生成政治不正確、色情暴力、歧視性信息等違法和不良內(nèi)容，實(shí)現(xiàn)內(nèi)容安全。
第三，應(yīng)當(dāng)注重運(yùn)營(yíng)階段的審核，通過建立完整科學(xué)可落地的審核機(jī)制，對(duì)用戶輸入的和大模型產(chǎn)品輸出的信息進(jìn)行審核。建立應(yīng)急制度，在發(fā)現(xiàn)時(shí)需要第一時(shí)間報(bào)告有關(guān)負(fù)責(zé)人，有關(guān)負(fù)責(zé)人應(yīng)報(bào)告屬地網(wǎng)信部門，組織協(xié)調(diào)相關(guān)用戶和發(fā)布平臺(tái)刪除違法違規(guī)內(nèi)容，并在事后對(duì)訓(xùn)練標(biāo)注、內(nèi)容審核等環(huán)節(jié)暴露出的不足進(jìn)行整改。
第四，注重醫(yī)療大模型搭載“醫(yī)院推薦”的風(fēng)險(xiǎn)防范，防止違規(guī)線下引流等嫌疑。對(duì)于自然搜索結(jié)果，2023年3月市場(chǎng)監(jiān)管總局發(fā)布的《互聯(lián)網(wǎng)廣告管理辦法》明確：對(duì)于競(jìng)價(jià)排名的商品或者服務(wù)，廣告發(fā)布者應(yīng)當(dāng)顯著標(biāo)明“廣告”，與自然搜索結(jié)果明顯區(qū)分。搜索引擎根據(jù)算法輸出的內(nèi)容，與大模型輸出的內(nèi)容存在一定的相似之處。
醫(yī)療大模型搭載“醫(yī)院推薦”的風(fēng)險(xiǎn)，主要集中在“是否收費(fèi)、是否存在控制內(nèi)容的行為”，如存在收取廣告費(fèi)或存在算法歧視影響公平競(jìng)爭(zhēng)的行為，可能被認(rèn)定為屬于需要監(jiān)管的醫(yī)療廣告。為防止違規(guī)線下引流等嫌疑，建議在展示頁(yè)面上標(biāo)注經(jīng)營(yíng)范圍、患者重合度、患者占有率等客觀因素，并明確“系綜合現(xiàn)有信息而作出，不代表任何實(shí)際診療建議”。
（作者單位：北京中醫(yī)藥大學(xué)大健康法商團(tuán)隊(duì))
