24h購物| | PChome| 登入
2024-09-04 04:00:00| 人氣889| 回應0 | 上一篇 | 下一篇

【AI論】你擔心AI毀滅人類嗎?

推薦 4 收藏 0 轉貼0 訂閱站台

【你擔心AI帶來世界末日嗎?】
  
一般人所謂的「擔心AI造成世界末日」,通常意思是指「恐懼AI毀滅地球人類文明」。
    
 「恐懼AI毀滅人類」這句話,同時包含兩層涵義-
 
(a)「恐懼AI超越人類智能後,出現毀滅人類的意願與能力」
(b)「恐懼人類用超越人類智能的AI來毀滅人類」
   
b與a,哪個更值得恐懼?
  
相信AI會發展出自主人格者,可能傾向於a。而相信AI在本質上不會有自主人格,而永遠只能是人類的應用工具者,可能會傾向於b。
 
然而,無論是a或b,都是因為「AI的智能超越人類」這回事的存在,而衍生的恐懼。
 
由a與b,我們可以更進一步確認兩者所擔心、恐懼的對象,可以歸納為XY兩類。
 
X:人類濫用AI  (衍生b)
Y:AI濫用AI (衍生a)
  
強調XY這二者的區分,有意義嗎?
  
可能有意義。最大的意義在於X是千古以來人性難以純善而必然含有惡性,而無法逃避的自然現象。然而,Y 則不是從人性著眼,而是認為AI自己很可能發展出具有類似人類那樣的善惡二元性,且不可能永遠保持純善,而導致的現行。
  
簡而言之,兩者都是「惡的心性」所產生的後果,只不過造惡的核心主體發動者是人類還是機器的差異。
  
假如你是思想家,你想要預防人類世界被毀滅,你會選擇優先預防哪一個?這其實取決於你認為的「造惡的核心主體發動者」到底是誰。
   
然而,有意思的是,XY這二者的預防措施,在手段層面上,很可能幾乎是相同的,本質上就是要「管理AI」。
 
首先,都是要設法限制AI的能力、使用範圍、取材學習訓練的來源、降低出錯的機率與嚴重程度。
 
其次,必須發展出對AI的監管工具。這些工具可能包括數量指標、質性指標、物理裝置、機器人身份證、機器人零件身份證、管理AI的AI....等等。
 
第三,必須有長期漸進的文化適應與集體學習過程。這個過程是讓人類學會如何與AI共處;如同汽車時代剛開始時,自小生長於農村裡,養馬長大而習慣騎馬的孩童,長大後要學會如何在城中到處是汽車的環境裡打零工存活。
 
 「汽車普及不會讓養馬戶的小孩沒工作」這樣的認知必須逐漸被確立。
 
至於無論你認為「AI是否可能具有自主人格?」其實都不妨礙你採取手段來管理AI,以及管理由此而來的未來世界的風險。
  
2024-08-28 FB
 
後記:
 
從演化觀點看,「恐懼」這個負面情緒,最大的存在價值,就是提醒生物要盡快預防危險。
  
延伸閱讀:
 
【AI論】讓AI只做粗工,勿取代人類創作,如何? 

台長: 天光
人氣(889) | 回應(0)| 推薦 (4)| 收藏 (0)| 轉寄
全站分類: 圖文創作(詩詞、散文、小說、懷舊、插畫) | 個人分類: 文明新論 |
此分類下一篇:【死刑存廢】深思才能明白的人性法則
此分類上一篇:【331】復活節

是 (若未登入"個人新聞台帳號"則看不到回覆唷!)
* 請輸入識別碼:
請輸入圖片中算式的結果(可能為0) 
(有*為必填)
TOP
詳全文