攻擊者跨越您的模型訓練

訓練模型需要投入大量的時間和費用。除了收集有效的訓練資料集之外，您也需要透過正確標示樣本來進行整理。試圖超越您的進度的對手，通常會使用您的模型來標示他們未標示的訓練資料集，省去他們產生正確標示所需的大量時間和精力。如此一來，您的競爭對手就可以利用與您相匹配的大型訓練套件，快速建立可比較的模型，從而抵銷您的優勢。

解決方案

由於攻擊者必須使用應用程式來執行他們的資料集，因此您可以結合前面列出的保護措施來嚴格控制應用程式的使用（授權）。這可以透過定義在每個時間範圍內可以進行多少分類、限制分類的總數，以及限制同時執行的應用程式實體的數量來達成。透過自訂控制項，完整性的保護來偵測和限制異常使用，您可以防止從應用程式內部刪除控制項，從而進一步保護應用程式。


應用個案：醫療設備

您的醫學MRI機器經過訓練，可以根據特定疾病對影像進行分類。 你的競爭對手希望使用你的應用程式來標記他們的訓練數據集。 幸運的是，你保護了你的應用程式，讓競爭對手只能執行極少數的圖像，讓他們無法有效率地使用您的技術來超越您的培練來達到他們自己的優勢。透過授權屬性控制偵測參數，您甚至可以安全地在現場針對客戶的特定使用個案修改這些參數。


總結

在這個時代，AI 和 ML 在各行各業都扮演著舉足輕重的角色。如果您將依賴機器學習模型的產品商業化，則必須採取積極的措施，以確保模型的完整性、保障您的投資和智慧財產權，並維持競爭優勢。這裡概述的主要漏洞需要多方面的模型保護方式，結合强大的授權、加密和複雜的軟體保護工具。