數(shù)據(jù)中毒可能會(huì)扼殺人工智能和機(jī)器學(xué)習(xí)

人工智能 (AI) 可能為各種規(guī)模的企業(yè)開(kāi)辟了新的機(jī)會(huì)和市場(chǎng)，但對(duì)于不同的黑客群體來(lái)說(shuō)，這為通過(guò)稱為數(shù)據(jù)中毒的過(guò)程欺騙機(jī)器學(xué)習(xí) (ML) 系統(tǒng)提供了機(jī)會(huì)。

“數(shù)據(jù)中毒”（Data poisoning）是一種特殊的對(duì)抗攻擊，是針對(duì)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)模型行為的一系列技術(shù)。惡意行為者可以利用數(shù)據(jù)中毒為自己打開(kāi)進(jìn)入機(jī)器學(xué)習(xí)模型的后門，從而繞過(guò)由人工智能算法控制的系統(tǒng)。數(shù)據(jù)中毒攻擊旨在通過(guò)插入錯(cuò)誤標(biāo)記的數(shù)據(jù)來(lái)修改模型的訓(xùn)練集，目的是誘使它做出錯(cuò)誤的預(yù)測(cè)。

專家表示，這些攻擊每天都在被忽視，這不僅會(huì)損失企業(yè)的潛在收入，還會(huì)感染機(jī)器學(xué)習(xí)系統(tǒng)，這些系統(tǒng)繼續(xù)重新感染那些依賴用戶輸入進(jìn)行持續(xù)訓(xùn)練的機(jī)器學(xué)習(xí)模型。

即使是剛開(kāi)始使用黑魔法的黑客也發(fā)現(xiàn)數(shù)據(jù)中毒攻擊相對(duì)容易執(zhí)行，因?yàn)閯?chuàng)建“污染”數(shù)據(jù)通?？梢栽诓涣私庖绊懙南到y(tǒng)的情況下完成。操縱自動(dòng)補(bǔ)全以影響產(chǎn)品評(píng)論和政治虛假宣傳活動(dòng)每天都在發(fā)生。

托管防火墻服務(wù)（MFW）應(yīng)用的利與弊

防火墻作為IT環(huán)境中的基礎(chǔ)設(shè)施和企業(yè)安全運(yùn)營(yíng)的中心環(huán)節(jié)，已經(jīng)成為企業(yè)組織不可或缺的安全設(shè)備。一方面，防火墻內(nèi)置海量的漏洞特征和威脅庫(kù)，可以有效幫助防御大量已知安全風(fēng)險(xiǎn)；另外一方面，防火墻提供強(qiáng)有力的實(shí)時(shí)阻斷能力，在安全事件處置、應(yīng)急響應(yīng)中也起到無(wú)可替代的作用。

但是對(duì)很多中小型企業(yè)組織而言，如何合理的配置和使用防火墻是個(gè)比較棘手的難題，其原因主要在于缺少專業(yè)的安全運(yùn)營(yíng)人員。此時(shí)，選擇托管防火墻服務(wù)（MFW），快速引入專業(yè)的安全專家資源，可以幫助企業(yè)組織更輕松地應(yīng)對(duì)安全挑戰(zhàn)。

企業(yè)可以按需選擇MFW服務(wù)項(xiàng)目，具體內(nèi)容包括：

?防火墻系統(tǒng)的安全運(yùn)營(yíng)監(jiān)測(cè)和報(bào)警。

?安全日志和事件管理。

?設(shè)備系統(tǒng)的全生命周期管理，包括版本更新和補(bǔ)丁等。

?安全策略的配置、實(shí)施、報(bào)告、分析和優(yōu)化。

?系統(tǒng)漏洞檢查和安全審查。

網(wǎng)絡(luò)流量的運(yùn)營(yíng)監(jiān)控及分析報(bào)警?！?/span>

什么是物聯(lián)網(wǎng)網(wǎng)絡(luò)安全

目前已有超過(guò)240億臺(tái)活躍的物聯(lián)網(wǎng)和運(yùn)營(yíng)技術(shù)設(shè)備，預(yù)計(jì)到2030年還將增加數(shù)十億臺(tái)。它們使我們的生活更方便、更有趣，也可以實(shí)時(shí)獲取信息，并保持聯(lián)系，他們是必不可少的。而企業(yè)喜歡智能物聯(lián)網(wǎng)設(shè)備，因?yàn)樗鼈兛梢耘c消費(fèi)者保持聯(lián)系并收集信息。

制造商、公用事業(yè)公司和供應(yīng)鏈組織也喜歡他們的物聯(lián)網(wǎng)，比如，汽車制造商、電力公司和航運(yùn)公司等等。然而，這種形式的物聯(lián)網(wǎng)被稱為運(yùn)營(yíng)技術(shù)。

與OT相關(guān)的一個(gè)術(shù)語(yǔ)是工業(yè)控制系統(tǒng)。工業(yè)控制系統(tǒng)包括允許機(jī)器人、風(fēng)力渦輪機(jī)和集裝箱船高效運(yùn)行的設(shè)備和網(wǎng)絡(luò)功能。如果物聯(lián)網(wǎng)設(shè)備被用于控制物理系統(tǒng)，例如電網(wǎng)中的一個(gè)元素或工廠車間的一個(gè)設(shè)備，則稱其為OT設(shè)備。

問(wèn)題是，網(wǎng)絡(luò)犯罪份子也喜歡物聯(lián)網(wǎng)和OT設(shè)備，也許比我們做的還要多。物聯(lián)網(wǎng)和集成電路設(shè)備的主要問(wèn)題是它們使個(gè)人或公司有可能進(jìn)行新的和不同的網(wǎng)絡(luò)攻擊。黑客會(huì)找到惡意的方式來(lái)干擾公司、城市甚至國(guó)家的運(yùn)營(yíng)。

為什么低代碼和身份驗(yàn)證必須共存

對(duì)于希望在數(shù)字經(jīng)濟(jì)的市場(chǎng)競(jìng)爭(zhēng)中獲勝的企業(yè)來(lái)說(shuō)，軟件開(kāi)發(fā)已經(jīng)成為一項(xiàng)關(guān)鍵任務(wù)。它越來(lái)越多地推動(dòng)技術(shù)創(chuàng)新甚至顛覆行業(yè)。然而，構(gòu)建、測(cè)試和驗(yàn)證主要代碼塊通常需要幾個(gè)月的時(shí)間，找到處理這項(xiàng)任務(wù)的人才可能是艱巨的。

由于技能差距和規(guī)模交付，許多企業(yè)轉(zhuǎn)向低代碼應(yīng)用程序開(kāi)發(fā)平臺(tái)來(lái)更快地構(gòu)建和交付應(yīng)用程序。

然而，在采用低代碼工具的熱情中，經(jīng)常被忽視的是，這些類型的開(kāi)發(fā)平臺(tái)會(huì)影響企業(yè)的許多領(lǐng)域，其中包括身份驗(yàn)證和網(wǎng)絡(luò)安全。

與身份驗(yàn)證系統(tǒng)集成不良的后果可能是重大的，尤其是隨著業(yè)務(wù)需求的變化以及企業(yè)需要開(kāi)始添加新功能，例如無(wú)密碼身份驗(yàn)證、多因素身份驗(yàn)證(MFA)、身份證明。如果沒(méi)有強(qiáng)大的身份管理框架，人工管理大量授權(quán)和身份驗(yàn)證可能會(huì)很困難，并且會(huì)破壞安全性，包括零信任計(jì)劃。

網(wǎng)絡(luò)安全漏洞的三個(gè)防范措施

對(duì)計(jì)算機(jī)安全漏洞的防范是一個(gè)長(zhǎng)期持續(xù)的過(guò)程，防范的措施也要隨著時(shí)間的變化和技術(shù)的發(fā)展進(jìn)行不斷的創(chuàng)新。

1、防火墻技術(shù)

是網(wǎng)絡(luò)安全防護(hù)中最常用的技術(shù)之一，作用原理是在用戶端網(wǎng)絡(luò)周圍建立起一定的保護(hù)網(wǎng)絡(luò)，從而將用戶的網(wǎng)絡(luò)與外部的網(wǎng)絡(luò)相區(qū)隔。

2、防病毒技術(shù)

計(jì)算機(jī)病毒是危害性最大的網(wǎng)絡(luò)安全問(wèn)題，具有傳播快、影響范圍廣的特點(diǎn)，給其防范帶來(lái)了很大的難度。最常使用的防病毒方式就是安全防病毒的軟件。

3、數(shù)據(jù)加密技術(shù)

是近年來(lái)新發(fā)展起來(lái)的一種安全防護(hù)措施。它的作用原理是將加密的算法與加密秘鑰結(jié)合起來(lái)，將明文轉(zhuǎn)換為密文，在計(jì)算機(jī)之間進(jìn)行數(shù)據(jù)傳輸。為了一個(gè)安全、良好、有序的網(wǎng)絡(luò)環(huán)境，有必要采取有效的安全防范措施。

評(píng)估網(wǎng)絡(luò)上的行為風(fēng)險(xiǎn)：五項(xiàng)關(guān)鍵技術(shù)

1)異常值建模：使用機(jī)器學(xué)習(xí)基線和異常檢測(cè)來(lái)識(shí)別異常行為，例如用戶從無(wú)法識(shí)別的IP地址訪問(wèn)網(wǎng)絡(luò)，用戶從與其角色無(wú)關(guān)的敏感文檔存儲(chǔ)庫(kù)下載大量IP，或者來(lái)自與該企業(yè)沒(méi)有業(yè)務(wù)往來(lái)的國(guó)家/地區(qū)的服務(wù)器流量。

2)威脅建模：使用來(lái)自威脅情報(bào)源和違反規(guī)則的數(shù)據(jù)來(lái)尋找已知的惡意行為。這可以快速篩選出簡(jiǎn)單的惡意軟件。

3)訪問(wèn)異常值建模：確定用戶是否正在訪問(wèn)不尋常的東西或不應(yīng)該訪問(wèn)的東西。這需要提取有關(guān)用戶訪問(wèn)權(quán)限的數(shù)據(jù)。

4)身份風(fēng)險(xiǎn)概況：根據(jù)人力資源數(shù)據(jù)、監(jiān)視列表或外部風(fēng)險(xiǎn)指標(biāo)確定事件中涉及的用戶的風(fēng)險(xiǎn)程度。例如，員工最近由于沒(méi)有升職可能更有可能對(duì)企業(yè)懷恨在心，并想進(jìn)行報(bào)復(fù)。

5)數(shù)據(jù)分類：標(biāo)記與事件相關(guān)的所有相關(guān)數(shù)據(jù)，如事件、網(wǎng)絡(luò)段、資產(chǎn)或涉及的帳戶，為調(diào)查警報(bào)的安全團(tuán)隊(duì)提供場(chǎng)景。

云安全：這三個(gè)因素容易造成云安全風(fēng)險(xiǎn)

1.不斷推陳出新

當(dāng)企業(yè)過(guò)多的將注意力放到應(yīng)用、程序等的推陳出新上，可能會(huì)對(duì)云計(jì)算平臺(tái)的配置產(chǎn)生影響。開(kāi)發(fā)人員可以定期對(duì)生產(chǎn)代碼進(jìn)行小幅更改，采用變通的方法對(duì)應(yīng)用和程序進(jìn)行更新，以避免在需要進(jìn)行調(diào)整時(shí)獲得管理員權(quán)限的耗時(shí)過(guò)程。

2.增加應(yīng)用程序的互聯(lián)性

企業(yè)與第三方或應(yīng)用程序組件之間的聯(lián)系越多，出現(xiàn)錯(cuò)誤配置的可能性就越大。常見(jiàn)的API錯(cuò)誤包括對(duì)象級(jí)別、用戶級(jí)別和功能級(jí)別的授權(quán)中斷，在企業(yè)的API中暴露太多信息也可能為黑客提供破解其代碼的線索。

3.云計(jì)算基礎(chǔ)設(shè)施的復(fù)雜性

云計(jì)算架構(gòu)的復(fù)雜性對(duì)錯(cuò)誤配置風(fēng)險(xiǎn)有重大影響。單一的云環(huán)境的風(fēng)險(xiǎn)有限，但在多租戶云環(huán)境中，風(fēng)險(xiǎn)就會(huì)增加。當(dāng)代碼和數(shù)據(jù)在各種不同的地方存儲(chǔ)和處理時(shí)，多云或混合云架構(gòu)中的風(fēng)險(xiǎn)會(huì)呈指數(shù)級(jí)增長(zhǎng)。