AI人工智能比核武更危險?

You are currently viewing AI人工智能比核武更危險?
人工智慧高速發展,威脋人類生存秩序。
分享出去

撰文/岑安

過去一年,人工智能的高速發展,用一日千里已不足形容,這已引起有識之士的高度憂慮,認為它對人類的威脅,有可能比核更危險。

A I所帶來的最大威脅,是改變了眼見耳聞為真的規則定律,人工智能不但可以取代許多人的工作,它可以幫你寫作業報告,甚至學術論文,它可以替代記者發新聞,它甚至可以向壁虛構,製造擬真照片與視頻,即使最熟知的事物也被竄改得真假莫辨,想想看這是多麼恐怖的世界。

聯合國在今年六月所發佈的一份報告中指出,當前科技的快速演進,加劇了虛假資訊傳播的風險,尤其以人工智能(AI)的生成技術,正在對各種媒體資訊的正確及完整性構成威脅,嚴重影響到社會安全。

AI生成技術已達以假亂真的地步。
AI生成技術已達以假亂真的地步。

這份報告聲稱,人工智能生產的假消息、仇恨言論或恐怖主義毒素,將以過於逼真而使人深信不疑的方式呈現給受眾,並在各媒體或社群網路上流傳,而且已經產生了明顯的危害。

今年五月,由A I生成的有關五角大廈附近發生爆炸的圖文在網路廣傳,多家新聞媒體不察跟進,並且引發恐慌,美股標普500指數瞬間短暫下跌,在事實得到釐清之前,傷害已經造成。在此前後,加密貨幣交易所的首席安全主管就曾警告;使用deepfake工具偽造他人身份錄製影片,以執行身份驗證流程的詐欺犯罪者持續增加,驗證者很難分辨其真偽。

繼核彈之後,AI是最危險的科技發明。
繼核彈之後,AI是最危險的科技發明。

聯合國秘書長於是表示,已有許多防範及監管措施正在研討中,包括歐盟草擬中的人工智能法案,及秋季英國舉行的人工智能安全峰會等。但所謂的道高一尺,魔高一丈,局勢仍然令人憂心。

人工智能的難以捉摸,有人甚至形容它比核彈更可怕。核彈畢竟掌握在極少數而且相對可控的人手裡,但人工智能卻人人可以上手,但你不知道他是誰。根據這份專題報導分析,將A I 技術與核武器進行比較,並引用近期由數百名科學家簽署、人工智慧安全中心(CAIS)發出以下警告:人工智能可能衍生的人類滅絕風險,應該等同於流行病及核戰爭等攸關人類生存的威脅,一起列為全球性優先解決事項。

如何監管人工智慧是嚴肅的挑戰。
如何監管人工智慧是嚴肅的挑戰。

文章中提出一個有趣的觀點,建議推動建立一個如同國際原子能總署的全球機構,用來監督人工智能技術開發及應用。A I 發展爆炸的真正原因,在於過去一年,A I 應用從文案、照片影片及歌曲生成,到語音及 deepfake,不但資本瘋狂投入,世界各地的民眾也都在廣泛使用相關技術。

一個名為「人道技術及地球物種中心」的組織,對此現象做了一番簡單的解釋,同時強調深度機器學習模型出現突破後:「你可以將一切都視為語言、視為能以線性方式排列的圖像片塊,接著你就能預測接下來最有可能出現的趨勢或新生事物。」換句話說,虛擬世界有可能取代真實世界。

這聽起來有㸃像佛家,根據佛家的理論,世界萬象都是假相,一切有如夢幻泡影,只有直指本心才能見如來。但是處在今天這麼複雜的世界,如來佛恐怕也要為之頭疼吧?!


分享出去