攻擊機器學習(ML)應用程式

攻擊應用系統的行為，而非直接對 ML 模型進行「正面攻擊」，也會對 ML 模型造成影響。每個 ML 模型應用程式都有在主要的 CPU 上執行的部分程式碼。接收和準備資料以輸入到 ML 模型，或對 ML 模型輸出進行後處理時，都會受到輸入操控攻擊和輸出完整性攻擊 (OWASP 前 10 名)。未防止逆向工程和/或修改的應用程式很容易受到這些威脅。

解決方案

先進的軟體保護工具強化了應用程式的逆向工程和修改能力，以防止這些威脅。這些工具存在於高階版權保護和授權系統中。


應用案例：網路/安全性

為了使機器學習模型能够準確識別網路入侵和數據洩漏，輸入數據保持不變以及警報標記機制必須正常運作至關重要。 當輸入（例如操控輸入操作）和輸出邏輯（例如篡改警報標誌）被操縱時，存在惡意活動被忽視的風險。 攻擊者可以透過在指定日期和時間隱藏觸發警報來逃避檢測。