諸緣來去何增減？笑擁斜陽照海天。。。 短暫人生幾番風雨情。 匆匆走過幾度回眸戀。 心坎鑲著足痕淚光影。 誰悟得無生法忍行去。 *幻羽*捻題一*悟行* 2023/01/03/18:34:58

3,592愛的鼓勵 79訂閱站台

      科技--人工智能：新的心理威脅？  2019年06月25日23:15

 俄羅斯聯邦總統直屬國民經濟與國家行政學院和俄羅斯外交部外交學院的研究人員率先從國際信息和心理安全的角度對使用人工智能的威脅進行了研究和分類，尤其關注了打擊恐怖分子惡意使用人工智能的行為。研究結果發表在《全球事務中的俄羅斯》（Russia in Global Affairs）雜誌上。 

研究結果發表在《全球事務中的俄羅斯》（Russia in Global Affairs）雜誌上。 

惡意使用人工智能的危險 

人工智能對人類構成的潛在危險不止一次成為藝術作品的主題，目前也是科學技術發展中討論最多的問題之一。儘管能夠進行獨立系統性思考並且可能具有自我意識和意志的“強人工智能”遠未被創造出來，但各種高級版本的“弱人工智能”已經在執行10年前似乎還是幻想的專業任務了。將人工智能用於良好目的（例如，用於醫學）已經帶來了無可置疑的好處。然而，在恐怖主義和其他犯罪組織的手中，成本逐漸降低、越來越先進的人工智能技術可能成為比核武器更可怕的武器。

來自不同國家的研究人員正在積極研究惡意使用人工智能對整個社會和人類活動的個別領域所構成的威脅，包括政治、經濟、軍事等領域。然而，對國際信息和心理安全構成的威脅尚未被拿來單獨研究。同時，利用人工智能通過有針對性地對人進行高科技信息和心理影響來破壞國際關係的穩定顯然十分危險。 

該研究的作者基於地域覆蓋範圍、速度和傳播形式等一系列標準對惡意使用人工智能構成的威脅進行了分類，這將有助於找到對抗和開發回應工具的方法。 

俄羅斯國民經濟與國家行政學院國際安全與外交政策教研室教授達里婭·巴扎爾金娜向俄羅斯衛星通訊社表示：“未來人工智能技術成本的降低可能會催生全新的恐怖主義威脅。對基本上新的恐怖主義行為構成威脅。不排除使用聊天機器人來構建虛假活動信息並說服潛在受害者參加。為了對抗，建議讓公眾熟悉新的威脅，指導公民警惕與不熟悉的人進行遠程接觸。對公共事件信息發布真實性進行認證是一個可能的出路。當然，在這種情況下，技術專家的任務將是保護活動數據庫及其認證機制。”  人工智能的現代技術和能力水平使我們能夠劃分出對人的信息和心理安全構成的一系列全新威脅。 

使用“假人”和“深度偽造”（deepfake） 技術進行國際挑釁 

美國英偉達公司（NVIDIA）最近分享了一個生成競爭網絡的結果，該網絡經過培訓可以自動生成人物（“假人”）圖像。神經網絡用時幾秒就可創建不存在的人的高分辨率面部圖像，還可添加任何文化和種族特徵、情感、情緒，並且基於真實人物的圖像集合。將來不排除其他開發人員可能會重複這種體驗。在這種情況下，犯罪分子可使用這些圖像進行各種挑釁，只有掌握系統性技術知識的公眾才能識別這些挑釁。

俄羅斯外交部外交學院國際熱點問題研究所主任研究員、莫斯科國立大學教授葉夫根尼·帕申采夫向俄羅斯衛星通訊社表示：“ '深度偽造'技術可以合成一個人的形象和聲音。它已經開始用於製作各國領導人的視頻圖像，包括美國總統唐納德·特朗普和俄羅斯總統弗拉基米爾·普京的圖像。'深度偽造'視頻能夠操縱大型目標群體的行為，並可用於信息和心理對抗，以引發金融恐慌或戰爭。” 

基調分析是計算語言學中的一類內容分析方法，用於自動識別文本中的情感色彩詞彙和作者情感評價。基調分析由廣泛的來源保障，例如博客、文章、論壇、民意調查等。這可能是非常有效的信息心理對抗工具。例如，現在美國特種作戰司令部領導對類似成果的濃厚興趣就證實了這一點。 

 “預測性武器”：根據社交網絡數據預測人們的行為 

2012年，美國高級情報研究計劃署（IARPA）啟動了“基於早期使用代用品模型的事件識別”（EMBERS）計劃，旨在基於人工智能的使用來預測民事騷亂，確定日期、地點和抗議群體。 

該系統處理來自媒體和社交網絡的數據，以及更高質量的信息源，如經濟指標。當然，將此類程序交到恐怖分子手中也是非常危險的。在這種情況下，恐怖分子就可能在大型社會活動中製造恐怖襲擊。 

選擇恐怖襲擊目標的另一個標準可能是某些地區的社會和心理緊張程度。 

該研究的作者認為，作為對策，國家和超國家機構可將預測分析用於防止社會緊張（及時採取旨在實現長期穩定的社會、經濟和政治措施）。 

此外，恐怖主義團體可以通過在政治運動期間使用機器人來損害他人聲譽、吸引新的支持者或組織殺害政客。 

無人機和機器人化基礎設施的捕獲 

基於人工智能控制的自學運輸系統可能成為高科技恐怖襲擊的便利目標。恐怖分子對大城市交通管理系統的控制可能會造成很多傷亡。

商業系統可用於部署無人駕駛飛行器或自動駕駛車輛，以運送爆炸物和製造事故。一系列重大災害能夠引起國際媒體轟動，對心理安全造成重大損害。 

俄羅斯國民經濟與國家行政學院和俄羅斯外交部外交學院的研究人員將系統性分析人工智能在安全領域的作用、情景分析方法、歷史類比和案例分析作為研究基礎。該研究的作者與烏普薩拉大學（瑞典）的格雷格·西蒙斯合作撰寫了即將出版的《信息和心理對抗中的恐怖主義和先進技術：新風險、應對恐怖主義威脅的新機遇》，有來自11個國家的研究人員參與編寫。 

在俄羅斯研究人員的倡議下，人工智能在國際信息和心理安全受到威脅背景下的作用問題正在積極討論中，並將在國際會議和國際自主研究研討會上進行討論。其中包括在俄羅斯聯合國教科文組織全國委員會以及多個俄羅斯和國際機構支持下於6月9日至12日在漢特-曼西斯克舉行的會議。

漢特-曼西斯克自治區區長納塔利婭·科馬羅娃積極參與了歐洲-俄羅斯通信管理專家網絡支持舉辦的惡意使用人工智能問題會議。之後還有將於2019年10月1日至3日在聖彼得堡舉行第四屆伊比利亞美洲論壇、2019年10月31日至11月1日的歐洲人工智能和機器人技術會議。該研究的作者曾在阿根廷、烏拉圭、巴西、南非和意大利做過科學報告。 

俄羅斯國民經濟與國家行政學院和俄羅斯外交部外交學院的專家認為，以俄羅斯的規模形成長期專項計劃極為重要，因為人工智能和國際信息心理安全問題是不久的將來就要面對的問題。



    *克宮：普京9日將在人工智能會議上發言* 2019年11月08日 19:13

俄羅斯衛星通訊社莫斯科11月8日電俄羅斯總統新聞秘書佩斯科夫表示，俄總統普京9日將在莫斯科對人工智能會議（Artificial Intelligence Journey）與會者發表講話。

佩斯科夫說：“今天不是總統公開亮相的日子。至於明天，總統將舉行幾個工作會議。他認為，有必要在莫斯科舉行的人工智能會議上向與會人員發表講話。你們知道，普京對人工智能問題給予不少關注。”他補充說，總統不計劃參與討論。

國際人工智能會議（AI Journey）將於11月8日至9日在莫斯科舉行。



                    *美國真能禁止中國人工智能？*

           2019年10月10日13:53 作者：安德烈•卡爾涅耶夫

美國剛剛把20多家中國科技公司和人工智能創業公司列入了“黑名單”。從今往後美國的合作夥伴將無法向這些公司提供組件和軟件，如果沒有美國商務部的特別許可。此前也對華為實施了類似禁令。然而這一次美國杜撰了另一原因。 

如果說華為被禁止是因為其設備涉嫌包含間諜後門並對美國國家安全構成威脅的話，那麼現在實施的製裁則是以保護人權為藉口。新入"黑名單"的企業包括在生產視頻監控系統領域的領先者--海康威視和大華，以及人臉識別領域裡的"獨角獸"--商湯科技和曠視科技（Megvii ）。

據美國商務部長羅斯稱，這些公司的設備被用於對中國新疆少數民族的全面監視和鎮壓。美商務部辯稱，美國不能也不會容忍侵犯中國少數民族的權利，因此禁止美國供應商與中國夥伴的合作。

路透社援引駐美海康威視的一位發言人的話報導稱，該公司強烈反對這一決定，並指出該公司在1月份聘請了一位人權事務專家和前任美國大使，就人權問題提供建議。中國外交部發言人耿爽則表示，這種行為是對中國內政的干涉，也是對中國利益的侵犯。耿爽強調，"新疆事務純屬中國內政，任何國家無權干涉。新疆根本不存在美方所指稱的所謂人權問題……我們敦促美方立即糾正錯誤，撤銷有關決定，停止干涉中國內政。" 

美國會把"黑名單"延伸到其他中國科技公司，包括海康威視和大華，還在華盛頓早在5月給供應華為組件下禁令後就應該能馬上意料到。發起人是美國國會所謂的"鷹派"，包括共和黨參議員盧比奧。他曾多次向特朗普政府發出書面請求，要求對中國公司實施制裁；他說這些公司參與了新疆侵犯人權的行動。 

海康威視和大華在生產視頻監控系統領域已經成為無可非議的全球領先者。而AL初創企業商湯已經成為全球人工智能領域，包括在人臉識別系統方面，總融資額最大的公司（超過45億美元）。這些公司的確向新疆供應自己的設備。然而它們的設備也銷往世界各地。在莫斯科，海康威視和大華攝像頭構成了"安全城市"系統的基礎。這些攝像頭可以在莫斯科的幾乎每棟民宅的入口處都可看到。 

當然該公司無法跟踪自己提供的設備是如何使用的，特別是在這樣大的規模上。即使我們拋開新疆是否侵犯人權的問題，軟硬件的製造商不可能就自己產品將來怎樣使用承擔責任。這就如同指責石油公司生產的燃料已被用於犯罪目的，如縱火。 

然而，美國當局的邏輯看起來卻是這樣的：由於中國設備，例如，是靠美國Nvidia公司的芯片工作的--它是一個關鍵供應商，因此就有必要通過行政措施來阻止這種合作。有趣的是，這裡的主要受害方將只是Nvidia，其在納斯達克的股票已經下跌了3.85％。該公司去年的銷售總額為129億美元，其中五分之一來自中國。正如中國人民大學重陽金融研究院高級研究員周戎在接受衛星通訊社採訪時指出的那樣，中國企業本身受損程度要小得多。

週戎專家說："中國公司當然會採取合理恰當的救濟方案，維護公司以及美國合作夥伴的權益，保持公司有能力可持續性地為客戶提供優質的產品和服務。從股價來看，海康威視的股價曾一度逼近跌停，隨後又重新反彈。截至目前，海康威視總市值依然可觀，高達3018億元人民幣。從營銷收入方面來講，海康威視的營銷佔比有72%都來自境內，只有20%來自美國市場，因此美國的製裁對海康威視的業績影響不是太大，包括對其他的中國高科技公司的影響也是如此。此外，海康威視所使用的芯片非常商業化，主要部分都來自中國國內，還有一部分來自東南亞。所以即使美國斷供，海康威視仍然可以進行芯片的補充。浙江大華科技更是如此，之所以目前沒有採用國產配件，主要考慮的是性價比問題，並不代表沒有替代品可用。所以一些高端產品即使用了美國 零部件，其實也是通用型的、商用化的，並不是美國獨家佔有的，所以我認為製裁的影響範圍極其有限。並且早在上半年海康威視就已經開始積極從美國供應商手中備貨，目前的備貨量已遠超過其生產的需求量，所以說中國公司都是有備而戰，並不是遭受悶頭一棍。像海康威視和大華科技的芯片供應鏈裡面，包括安防產業鏈最為核心的IPC處理器也已經基本實現了國產化，即使沒有美國的供應商，我們也不會遭受很大的打擊。還有現在的存儲器芯片也主要來自日本和韓國，中國國產模擬芯片的替代率也在不斷增長。" 

即使從技術角度來看，美國的這些措施也難以實施。在美國政府，例如，長期以來一直禁止使用海康威視和大華的監控攝像頭。然而，事實證明禁令難以執行。據西方媒體報導，許多美國供應商以自己品牌的名義生產這兩家中國公司生產的攝像頭。因此，確定究竟有多少海康威視和大華攝像頭正在監控美國政府機構的走廊，是根本不現實的。如果假設美國供應商與中國夥伴的合作終止，那麼美國視頻監控系統也可能會停止正常運行。而且事先也根本不可能知道到底問題出在哪裡。 

當然公司失去收入不是什麼好事。就華為來講，禁止部件供應的寬限期在美國商業界的壓力下一再延長。所以現在把中國公司納入"黑名單"也不過是隔靴搔癢式的措施，很容易避開它，只要不直接從美國供應商那里而是通過中間商購買組件。唯一的效果是美國供應商本身的損失。