人工智能應用不當會產(chǎn)生哪些風險

一、數(shù)據(jù)風險

1. “數(shù)據(jù)投毒”

所謂的“數(shù)據(jù)投毒”指人工智能訓練數(shù)據(jù)污染導致人工智能決策錯誤。通過在訓練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等，破壞數(shù)據(jù)的完整性，進而導致訓練的算法模型決策出現(xiàn)偏差。

2. 數(shù)據(jù)泄露

一方面逆向攻擊可導致算法模型內(nèi)部的數(shù)據(jù)泄露;

另一方面，人工智能技術可加強數(shù)據(jù)挖掘分析能力，加大隱私泄露風險。比如各類智能設備（如智能手環(huán)、智能音箱）和智能系統(tǒng)（如生物特征識別系統(tǒng)、智能醫(yī)療系統(tǒng)），人工智能設備和系統(tǒng)對個人信息采集更加直接與全面。人工智能應用采集的信息包括了人臉、指紋、聲紋、虹膜、心跳、基因等，具有很強的個人屬性。這些信息具有唯一性和不變性，一旦泄露或者濫用將產(chǎn)生嚴重后果。

3. 數(shù)據(jù)異常

運行階段的數(shù)據(jù)異常可導致智能系統(tǒng)運行錯誤，同時模型竊取攻擊可對算法模型的數(shù)據(jù)進行逆向還原。此外，開源學習框架存在安全風險，也可導致人工智能系統(tǒng)數(shù)據(jù)泄露。

二、算法風險

圖像識別、圖像欺騙等會導致算法出問題，比如自動駕駛，谷歌也做了一些研究，如果模型文件被黑客控制惡意修改，并且給它學習，會產(chǎn)生完全不一樣的結(jié)果;

算法設計或?qū)嵤┯姓`可產(chǎn)生與預期不符甚至傷害性結(jié)果;

算法潛藏偏見和歧視，導致決策結(jié)果可能存在不公;

算法黑箱導致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境;

含有噪聲或偏差的訓練數(shù)據(jù)可影響算法模型準確性。

三、網(wǎng)絡風險

人工智能不可避免的會引入網(wǎng)絡連接，網(wǎng)絡本身的安全風險也會將AI帶入風險的深坑;

人工智能技術本身也能夠提升網(wǎng)絡攻擊的智能化水平，進而進行數(shù)據(jù)智能竊取;

人工智能可用來自動鎖定目標，進行數(shù)據(jù)勒索攻擊。人工智能技術通過對特征庫學習自動查找系統(tǒng)漏洞和識別關鍵目標，提高攻擊效率;

人工智能可自動生成大量虛假威脅情報，對分析系統(tǒng)實施攻擊。人工智能通過使用機器學習、數(shù)據(jù)挖掘和自然語言處理等技術處理安全大數(shù)據(jù)，能自動生產(chǎn)威脅性情報，攻擊者也可利用相關技術生成大量錯誤情報以混淆判斷;

人工智能可自動識別圖像驗證碼，竊取系統(tǒng)數(shù)據(jù)。圖像驗證碼是一種防止機器人賬戶濫用網(wǎng)站或服務的常用驗證措施，但人工智能通過學習可以讓這一驗證措施失效。

四、其他風險

第三方組件問題也會存在問題，包括對文件、網(wǎng)絡協(xié)議、各種外部輸入?yún)f(xié)議的處理都會出問題。被黑客利用，帶來的是災難性的毀滅。

農(nóng)業(yè)電商平臺的主要運營風險有哪些

您好，我是國內(nèi)第一批農(nóng)村電商的研習者，就您的問題談談我的想法。

一、模式的風險

從這些年農(nóng)業(yè)電商平臺的發(fā)展歷程來看，是否具有清晰、獨特的商業(yè)模式是電商平臺運營發(fā)展的關鍵。因為農(nóng)業(yè)電商平臺最終也會走向集中，不同模式會形成幾個頭部平臺，這些平臺會擁有最大的市場份額。

二、平臺開發(fā)及運維的風險

大多數(shù)剛起步的電商公司是不具備完整的技術開發(fā)團隊，一般都會選擇外包技術公司合作，這里有兩個風險，一個是第一版的開發(fā)和性能；另一個是后續(xù)的迭代優(yōu)化是否能夠及時完成。

溝通成本是必須考慮的問題，因為專業(yè)背景的差異，往往需要長時間，多輪次的溝通。

三、運營的風險

國內(nèi)現(xiàn)在從事農(nóng)業(yè)電商的工作人員大多數(shù)是從消費電商轉(zhuǎn)型到農(nóng)業(yè)電商領域，目前最突出的問題是懂農(nóng)業(yè)的不懂電商，懂電商的不懂農(nóng)業(yè)，兩者都懂的人才少之又少，簡單的把消費電商的經(jīng)驗復制到農(nóng)業(yè)電商是十分危險的事情，農(nóng)業(yè)有其自身的規(guī)律和特點，所以運營團隊的構(gòu)成至關重要。

當然還有平臺安全的風險等其它一些潛在的風險，就不再贅述，這三點我認為是最大的風險。