FDA 即將於 2024/11/20 討論針對生成式人工智慧（GenAI）應用於醫療裝置的監管挑戰和生命週期管理（TPLC）的必要性，這將對生技業產生深遠的影響。隨著生成式AI在醫療裝置領域中的潛力逐漸被挖掘，FDA提出了一套基於風險的監管方法，以確保這些裝置的安全性和有效性。
生成式AI在醫療領域的應用與挑戰 FDA指出，生成式AI可用於醫療訓練、臨床診斷輔助、病人數據分析等，對於提升醫療效率和準確度有顯著幫助。然而，由於這些技術往往基於龐大數據集進行訓練，其輸出結果具有變異性，可能會出現“幻覺”或錯誤的內容。這種情況在醫療應用中尤其危險，因為一旦診斷或建議失誤，可能對患者造成嚴重的健康風險。因此，FDA強調，為了確保裝置的穩定性與準確性，製造商應對生成式AI的輸出進行嚴格監控，並使用生命週期管理來持續跟蹤和改進裝置性能。
風險管理和監管策略的轉變 FDA的監管文件中提到，生成式AI裝置的風險管理需具體針對其生成新內容的特性。製造商應採用透明化、控制風險的機制，例如引入監督機制（human-in-the-loop），並且在裝置設計和市場監控階段引入特定的安全性和效能指標。此外，對於一些開放性的生成式AI模型，FDA認為製造商需要制定有效的治理計劃和回饋機制，以便在裝置的使用過程中持續保障其安全性和有效性。
新方法與數據需求的增長 生成式AI的導入對科學證據的需求也提出了更高的標準，FDA要求裝置需能提供充分的科學證據來支持其安全性和有效性。對於生成式AI模型，尤其是依賴於第三方基礎模型（foundation models）的裝置，製造商應確保所用模型的數據來源、訓練方法、模型參數和精調過程的透明性。此外，由於生成式AI模型可能因小幅的輸入變動而產生不同輸出，因此在進行風險評估時，製造商需考慮所有潛在的輸出變異性及可能引發的風險。
結語 這份文件表明，生成式AI技術在生技業的應用潛力巨大，但由於其技術特性，對監管機構和製造商提出了新的挑戰。生技業者需認識到這一轉變的重要性，積極採取 FDA 建議的生命週期管理方法，並建立完整的風險管理和監控機制，以確保生成式AI技術的應用符合安全和有效的標準。這對於希望開發生成式AI醫療裝置的公司而言，將是未來進入市場並保持競爭力的關鍵。
準備好！記得要有 human-in-the-loop 的機制、以及上市後的監管！
#FDA
Newsflash | Powered by GeneOnline AI
原始資料來源: 21 Oct 2024
