網路城邦
上一篇 回創作列表 下一篇   字體:
當《魔鬼終結者》的審判末日來臨
2015/07/07 17:10:53瀏覽6903|回應9|推薦36

“I will be back!”,魔鬼阿諾真的又回來了。《魔鬼終結者》系列電影中人類創造的人工智慧電腦「天網」發展出自己的意識,決定毀滅人類。電影中有核子大屠殺,也有機器人拿著機關槍追殺人類,還穿越時空到過去只為了暗殺弱女子。那是電影,但是現實世界的電腦越來越厲害,它們會取代人類,帶來大災難嗎?


人工智慧是福是禍?

沒人知道這是否會發生、何時發生、或如何發生,有人認為人工智慧進步到有自我意志、會自我進化時,人類不能再控制電腦,而且電腦控制下的世界的變化將遠超過人腦所能理解,那時候就可能導致人類文明的毀滅。我不太相信電腦奴役、消滅人類的科幻情節會真的發生;但別高興太早,因為一不小心電腦還是可能把人類文明打回石器時代!

你對我說的嗤之以鼻?我是有證據的——您可知道數年前電腦真的差點就重創了世界?


2010年的「審判日」

先問個問題:你多久買賣一次股票?每月,還是每天?國際股市有一種做「高頻率交易」(High-frequency trading)的公司,用電腦快速分析股市走勢,並迅速自動買賣。既然叫「高頻率」,到底速度有多快?較新的資料估計單台電腦只要數萬分之一秒就可算出最佳買賣組合且完成交易,只要你比別人快,就幾乎等於預知未來一秒內的漲跌,穩賺不賠。即使每次交易只賺一毛錢,但是每一秒鐘交易數萬次,一天下來也相當可觀,美國華爾街每天交易量超過50%是這樣這樣來的。

聽起來好像不錯⋯一直到2010年的5月6日。

那一天的華爾街本來就被希臘的債信危機壓得烏雲密佈(希臘,又是你!),紐約下午2:30已經下跌了2.5%。忽然賣壓湧現,美國的新聞名嘴還在爭論歐洲局勢時,主播忽然發現股價指數已跳下懸崖的,叫道:「你看,股市怎麼跌破5%?趕快切入華爾街現場!」現場記者:「已經跌了五百多點,創下近年單日最大跌幅...」(字幕卻經寫著“-635點,-5.8%”),背後傳來交易所現場的尖叫,只見下跌速度愈發加快。

兩分鐘後又下跌了500點,沒人知道發生了什麼,很多人連跟著拋售手上的股票的機會都沒有。不過一段去上廁所的時間,道瓊指數跌了將近1000點,9%。

2點45分28秒,芝加哥的交易所啟動緊急跌停措施,暫停交易五秒鐘,重新開始後股市奇跡似的開始迅速反彈,當日4:00收盤時「只」下跌了350點。


2010年的5月6日道瓊指數的走勢:(1)1:00PM,股市開始震盪;(2)2:30PM,道瓊指數下跌2.5%;(3)2:32PM,一台高頻交易電腦賣美金41億的股票;(4)2:41PM,許多電腦自動退出股市,開始暴跌;(5)2:45:28PM,跌到最低點,芝加哥股市暫停五秒鐘。最大的跌幅僅僅發生在五分鐘內。(圖片來源:紐約時報)

這個事件現在叫「2010閃電崩盤」(2010 Flash Crash)或是「那個2:45的閃電崩盤」(The Crash of 2:45)。美國證交會對此調查了數個月後,發現它是肇因於一家高頻交易電腦脫手大量持股時賣得太快,竟然觸發其他高頻交易電腦的連鎖反應,雪球越滾越大,最後所有電腦乾脆帶著資金全部離開市場,造成股市崩盤。

如果那一天的崩盤沒有快速復原,或是正好發生在收盤前,使當日收盤價慘跌,接著要開盤的亞洲股市必定首當其衝,加上當時本來就悲觀的市場氣氛,恐怕會將全球經濟帶入大恐慌。你今天有閑情坐在電腦前,沒有變成街友,運氣不錯喔。


紐約證券交易所(NYSE)在大樓裡開了一間房間租給高頻交易證券商放電腦,保證通到每一台電腦的通信電纜都一樣長,因為電纜的長度可以決定生死。「快」是高頻交易最重要的生存法則。比別家公司慢了百萬分之一秒就會失去商機。他們對速度的要求已經碰到了宇宙的終極速限:光速。別以為光速非常快,現在電腦的Clock cycle是GHz等級,光在一個Clock cycle內也只能在光纖裡跑30多公分。如果你的信號比別人多跑30公分,你鐵定輸了。什麼,你的電腦放在隔壁20公尺外的大樓裡?準備賠錢吧你!(圖片來源:NYSE)

如果未來的人工智慧帶來災難

你可能會說這個「閃電崩盤」和世界末日的程度還差很多,這些電腦沒有人工智慧,股市有跌停版就好了。我一開始就說人工智慧未必會毀滅人類,不過請注意,人們的生活越依靠電腦,電腦就越能輕易帶來嚴重的災害。你看你四周:股市、銀行、電力輸送、交通、通訊、和網路本身,哪一個不和你息息相關?電腦系統只要能控制經濟、民生,不需要掌握原子彈,也能造成相當的毀害。

從這個「閃電崩盤」的過程,我們可以依稀看見未來人工智慧可能帶來的災害:

  1. 不需要邪惡的電腦才能造成災害
    電腦不需要有任何情緒或欲望,只要電腦的主人粗心、貪婪、甚至邪惡...就足夠引發災難。不要怪電腦,而該怪人類自己
  2. 能改變世界的電腦資源只由少數人操縱
    你以為你口袋中所謂的「人工智慧」App是在為你服務嗎?錯了,他們最終是為了Google,Facebook等公司收集資料,讓他們的人工智慧更聰明,更能夠掌握你。就像是「高頻交易」的高性能電腦是少數人賺錢的工具。人工智慧會讓貧富差距更懸殊
  3. 災害的速度和幅度可能大的讓人無法理解
    那崩盤的15分鐘的海量資料夠讓政府、民間的學者研究好幾年,當時身歷其境的人們還沒來得及意會災難就結束了
  4. 電腦彼此競爭
    電影中只有一個邪惡的電腦毀滅世界,真實世界中卻因為商業、軍事的原因,會有數個電腦系統彼此競爭。強大的電腦會帶來巨大利潤,不太可能由一個國家或公司完全獨佔。不過這對人類未必是件好事,因為不論是哪一台電腦贏,都是人類輸,就像是2010閃電崩盤,每一台電腦都在比誰脫手快,結果造成崩盤。

你說我危言聳聽,覺得這是科幻電影的情節?人類科技離這一天很遠?我只好借用比爾蓋茲的話:「搞不懂,怎麼有人不擔心人工智慧可能的威脅呢?」其實問題不在於電腦,而是在電腦的主人,和沒有電腦就活不下去的你。如果你仍然鐵齒不相信人工智慧可能帶來的問題,認為這是下一代才需要擔心的事情,那麼結果可能是:不需要有「天網」這個等級的超強電腦,也可以把人類文明打回石器時代。


下面的影片是當時MSNBC財經節目的錄影,可以看到那慌亂的幾分鐘,畫面中的記者、名嘴回神的時候幾乎已經改朝換代了。

其他和人工智慧有關的電影:

參考資料:

What Computer-Powered High Frequency Trading Looks and Sounds Like, Motherboard, February 11, 2013

Physics in finance: Trading at the speed of light, Nature, 11 February 2015

十分鐘快速了解高頻交易, 9/23/2014 幣圖誌

free counters

( 休閒生活影視戲劇 )
回應 推薦文章 列印 加入我的文摘
上一篇 回創作列表 下一篇

引用
引用網址:https://classic-blog.udn.com/article/trackback.jsp?uid=DrVader&aid=25537295

 回應文章

【無★言】雲遊到世界的另一端
等級:8
留言加入好友
每秒三億公尺
2015/10/31 14:03
我的意思是:光速乃每秒三億公尺,除以百萬,仍有每秒三百公尺啊,怎麼只有二十公分?雖說光在介質中的速度較慢,好像也沒差這麼多。
火星情報總長(DrVader) 於 2015-11-06 14:52 回覆:
讓我屈指算來~個、十、百、千、萬...哈哈,我真的有點爛,你已經點出來我卻還沒發現。搞錯了,一個GHz的週期是十億分之一秒,內文已經修正了,謝謝你!

【無★言】雲遊到世界的另一端
等級:8
留言加入好友
為什麼
2015/10/30 22:09

別以為光速非常快,它在百萬分之一秒內也只能在光纖裡跑20公分」

為什麼這麼慢?

火星情報總長(DrVader) 於 2015-10-31 08:28 回覆:
很慢嗎?已經超快了耶,只是百萬分之一秒太短了吧。

nhnj
2015/07/11 18:44
I am visiting NYSE soon and will make sure these super smart AI computers get the message: behave yourselves, no more pranks... Arnold is coming back ... :)
火星情報總長(DrVader) 於 2015-07-14 14:16 回覆:
糟了,看樣子我不能太頑皮,得收斂一些。

nhnj
2015/07/11 18:38
I am visiting NY SR soon and will make sure these super smart AI computers get the message: behave yourselves, no more pranks... Arnold is coming back ... :)

看雲
等級:8
留言加入好友
巧合嗎?
2015/07/09 13:47

同一天 NYSE shut down,United Airline grounded

還真是巧 懷疑


火星情報總長(DrVader) 於 2015-07-10 02:44 回覆:
哎呀,我這一次炒股太心急了,以後不能做得這麼明顯。

kevin
2015/07/09 09:00

Wow martian can predict the future. "

NYSE shut down for nearly four hours by technical glitch"

http://www.reuters.com/article/2015/07/09/us-nyse-trading-idUSKCN0PI25A20150709

Or you just jinx the market?

火星情報總長(DrVader) 於 2015-07-10 02:35 回覆:

不是我幹的,真的不是我幹的,真的跟我一點關係都沒有!!

先走了,我要去算算這幾天用人工智慧操作股票可以讓我買多少豪宅跑車。


Jesse
2015/07/08 23:32

程式設計草率與測試的不夠完整,正在一步一步消減我們人類的生產效率。

微軟蘋果或任何一種資料庫處理軟體的update 只要出一點小錯,成千上萬的用戶就得浪費很多時間修正錯誤。我們機構已經被一家獨霸世界資料處理大廠的軟體挾持了,不用不行只有一家,用了productivity  下降了40% (HR measured)。

所以人工智慧的軟體裏只要有一點小錯,人類也許不會滅亡,但災難是免不了的。

這點火星人應該有深切的感慨吧。當初火星電腦把Total Recall 裏的設定錯誤,阿諾以一個Kindergarden Cop 的身份,才一不小心駕駛了可以垂直起降的飛碟True Lie號,把整個火星都毀了吧。

火星情報總長(DrVader) 於 2015-07-10 02:29 回覆:

哇,生產力下降40%!說的也是,不知道有多少個夜晚我倒在微軟產品前面哭泣。

聽你這麼一說,我們火星人應該乘時光機器去暗殺阿諾的媽媽。


我不知道
等級:8
留言加入好友
赚钱这件事呀~
2015/07/08 16:04

好来污....嗯...不对,是华尔街之前有一个营业员就靠网路下单的时间差赚钱。

有没有进监牢?啊知,反正股票大跌跳楼不是被谋杀,手指快应该不是犯罪吧?!

火星情報總長(DrVader) 於 2015-07-10 02:24 回覆:
就我所知大多數主要市場沒有禁止高頻交易,而且從某一方面來說,這些電腦應該可以比較理性的投資,要比大媽操作股市要好得多。

電老大
等級:8
留言加入好友
2015/07/08 12:29

人類重要發明之一:電腦..

讓人類製造的錯誤 比以往 快 千萬倍! 對人類的傷害 僅次於 手槍 之於美國!

Victor 得意


[AVの館:電老大][溫哥華 千里傳音]
火星情報總長(DrVader) 於 2015-07-10 01:52 回覆:
水能载舟,亦能覆舟!