【AI論】你擔心AI毀滅人類嗎？＠河光‧流音

2024-09-04 04:00:00| 人氣877| 回應0 | 上一篇 | 下一篇

推薦 4 收藏 0 轉貼0 訂閱站台

【你擔心AI帶來世界末日嗎？】

一般人所謂的「擔心AI造成世界末日」，通常意思是指「恐懼AI毀滅地球人類文明」。

「恐懼AI毀滅人類」這句話，同時包含兩層涵義-

(a)「恐懼AI超越人類智能後，出現毀滅人類的意願與能力」

(b)「恐懼人類用超越人類智能的AI來毀滅人類」

b與a，哪個更值得恐懼？

相信AI會發展出自主人格者，可能傾向於a。而相信AI在本質上不會有自主人格，而永遠只能是人類的應用工具者，可能會傾向於b。

然而，無論是a或b，都是因為「AI的智能超越人類」這回事的存在，而衍生的恐懼。

由a與b，我們可以更進一步確認兩者所擔心、恐懼的對象，可以歸納為XY兩類。

X：人類濫用AI (衍生b)

Y：AI濫用AI （衍生a）

強調XY這二者的區分，有意義嗎？

可能有意義。最大的意義在於X是千古以來人性難以純善而必然含有惡性，而無法逃避的自然現象。然而，Y 則不是從人性著眼，而是認為AI自己很可能發展出具有類似人類那樣的善惡二元性，且不可能永遠保持純善，而導致的現行。

簡而言之，兩者都是「惡的心性」所產生的後果，只不過造惡的核心主體發動者是人類還是機器的差異。

假如你是思想家，你想要預防人類世界被毀滅，你會選擇優先預防哪一個？這其實取決於你認為的「造惡的核心主體發動者」到底是誰。

然而，有意思的是，XY這二者的預防措施，在手段層面上，很可能幾乎是相同的，本質上就是要「管理AI」。

首先，都是要設法限制AI的能力、使用範圍、取材學習訓練的來源、降低出錯的機率與嚴重程度。

其次，必須發展出對AI的監管工具。這些工具可能包括數量指標、質性指標、物理裝置、機器人身份證、機器人零件身份證、管理AI的AI....等等。

第三，必須有長期漸進的文化適應與集體學習過程。這個過程是讓人類學會如何與AI共處；如同汽車時代剛開始時，自小生長於農村裡，養馬長大而習慣騎馬的孩童，長大後要學會如何在城中到處是汽車的環境裡打零工存活。

「汽車普及不會讓養馬戶的小孩沒工作」這樣的認知必須逐漸被確立。

至於無論你認為「AI是否可能具有自主人格？」其實都不妨礙你採取手段來管理AI，以及管理由此而來的未來世界的風險。

2024-08-28 FB

後記：

從演化觀點看，「恐懼」這個負面情緒，最大的存在價值，就是提醒生物要盡快預防危險。

人氣(877) | 回應(0)| 推薦 (4)| 收藏 (0)| 轉寄
全站分類: 圖文創作(詩詞、散文、小說、懷舊、插畫) | 個人分類: 文明新論 |
此分類下一篇:【死刑存廢】深思才能明白的人性法則
此分類上一篇:【331】復活節

回應(0)