網路城邦
上一篇 回創作列表 下一篇   字體:
芝麻事: Dangers of AI and the End of Human Civilization
2023/04/02 02:25:58瀏覽1027|回應6|推薦26

04/01/23

人工智能(Artificial Intelligence)可以取代人工,已經不是 可不可能 的科學問題,而是在社會上、產業界無形中正在進行的一場工業革命。機器人、機器狗的製造越來精密且發達;它不眠不休的特性可以取代人工於工廠製造,食品業研發出機器人可以替代前台下單、後台作業(炸雞、煎漢堡、甚至炒菜)。微軟的OpenAI開發出來的ChatGPT,還可能取代客服業,讓客服變成夕陽產業。

日前AI快速的發展導致出一些始料未及的隱憂,讓AI界的前進人士(有我很不欣賞,跟tRump同樣有自戀癖的Elon Musk)呼籲暫停訓練比GPT-4還強大的AI系統六個月,理由是有可能危及社會與人類。

.

下面是我最近看過youtuble上podcaster播主Lax上傳與此主題有關的幾個影片:

Lex Fridman statement on dangers of AI

https://youtu.be/k7vcA91Ec-c

.

Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #368

https://youtu.be/AaTRHFaaPG8

.

Eliezer Yudkowsky is a researcher, writer, and philosopher on the topic of superintelligent AI.

.

Lex Fridman
Fridman is of Russian Jewish descent (他和他的父親出生於俄國。外祖父是棣屬烏克蘭紅軍,二戰時抵抗納粹的機槍手,外祖父、母均是烏克蘭猶太人。去年Lax因此還去了烏克蘭觀察時事。我只對Lex某些podcast的議題感興趣,所以沒有追蹤他去了烏克蘭的後事。), is a Russian-American computer scientist, podcaster, and artificial intelligence researcher. He is a research scientist at the Massachusetts Institute of Technology, and he hosts the Lex Fridman Podcast, a podcast and YouTube series.

這裡是Lex博士論文的網址: Learning of Identity from Behavioral Biometrics for Active Authentication

Deep Learning Basics: Introduction and Overview

.

下面是開頭剪接過的短片訪問全段

Sam Altman: OpenAI CEO on GPT-4, ChatGPT, and the Future of AI | Lex Fridman Podcast #367

https://youtu.be/L_Guz73e6fw 


04/07/23

Trump deepfakes on social media prompt warnings of AI risks


04/09/23
看到這則農業運用AI技術的正面發展:
https://youtu.be/NSdPgLVpLCc

.

.

.

.

( 知識學習科學百科 )
回應 推薦文章 列印 加入我的文摘
上一篇 回創作列表 下一篇

引用
引用網址:https://classic-blog.udn.com/article/trackback.jsp?uid=littlezone&aid=178746294

 回應文章

郁勝
等級:8
留言加入好友
2023/06/27 18:28
今天看到一條新聞,有人發現 ChatGPT忽然變笨了。如果這是真的,又要掀起一陣泡沫疑雲了?!
nothing special(littlezone) 於 2023-06-28 05:30 回覆:
「ChatGPT忽然變笨了」這個說法我還第一次聽到。去google查所謂變笨的說法,好像是依據這段報導「用 GPT-4 的 API 做了測試,讓它做簡單計算題。從結果準確度來看,GPT-4-0314 滿分,GPT-4 80 分,GPT-4-0613 勉強可以拿 50 分」,我認為光看這幾個數字下結論,未免太直觀了。


首先,我不懂甚麼是API測試,也不知測試者拿甚麼樣的題目去測試AI,所以不能同意 滿分-80-50 的數據 就代表AI變笨;如果這三次的測試都是同樣的簡單計算題,並且都是同樣的題目測試,變笨才有可能。但是,我們不知是不是三次測試的題目是否相同,所以AI變笨只能半信半疑。


其次,不管ChatGPT的設計理論與邏輯是如何,它都需有要強大的數據庫做基礎才能分析比較,這個數據庫就好像分數裡的分母,比較兩個分數時,分母要相同比較起來才有意義。所以數據庫不同的測試有甚麼意義呢?!

小子心 —— 四平圓無限,方寸環空間
等級:8
留言加入好友
2023/05/12 10:30

輪子、發動機、電腦,以及流體力學/量子理論...等等都是人類在“進化過程”中的幾個『人造轉捩』。而今,【人工智能】即將引導著另一個轉捩。

明顯地,這個引導可能帶領人類進入自我改造的新世代/新時空,乃至於演變出【新智人】。然而這是千百萬年來碳基體的一段“自然演化”。而且相較這顆已經六十億年的星球而言,人類的歷史是如此之短暫,我們實在沒什麽好操心的。

我曾與友人討論過,人類可能在500年(最多1000年)内發生巨大的改變;而今我感到這個時間點會大幅移近——應該說是至多500年!

nothing special(littlezone) 於 2023-05-13 11:06 回覆:

個性兩極端的Salesmen被派去非洲賣鞋。
樂觀者說: 好機會,因為太多人沒穿鞋,市場很大。
悲觀者說: WTF,他們都不穿鞋,哪有市場可賣鞋給他們?

顯然,小子心無限與NS是各走一端。:)


Chen Mimi
等級:8
留言加入好友
2023/05/07 05:01
科技只會前進不會後退,擋不住的,現世就是一片大混仗,未來的人類是啥德性很難想像,希望在我走之前不會看到。
nothing special(littlezone) 於 2023-05-07 11:02 回覆:

是阿,怎麼踩煞車也擋不住那煞車失靈直直下衝的科技。
向來自以為勇於學習新知的我竟螳螂擋道的拒絕微軟的ChatGPT向我招手,不,我偏不,我對ChatGPT說不。


Sir Norton 黑幫哪裡黑?
等級:8
留言加入好友
春美人蒨
2023/04/08 16:38

Deep learning,多麽的可人誘我,相對於衆人之不學,作賤輕悔了learning,人類文明備受威脅,又豈是今天才發生,哪一日機器要殲滅人間,肯定有它想出了的道理,我可能高興被它們說服。😎

NS小姐的春遊在望?妳積欠的健康的債務、償還的如何了?🌹

nothing special(littlezone) 於 2023-04-09 10:54 回覆:

Ah, lost has been found!
(assuming not a health issue, hopefully!!)

談到Learning,想起好多年前,大學系老闆剛從美國回校,見到我開心地showed我,他從美國搬回來的一台電腦 (那時候連甚麼286,386都不是地沒有PC的年代),非要我跟電腦下棋比賽、、、(幸好那台電腦是很初階的玩意,我贏了,讓他很沒面子) 我是去交他要我幫他翻譯《數學教材教法》的書;對Learning尤其是Learning Math 跟他有不少的交流。這都已是上輩子的往事!!

右肩的frozen shoulder毛病漸漸好矣,不疼不痛但不能100%如前。不強求。到底是順其自然,該好就好,該老就老。
想走想去的地方多著哪,不急(有的是時間,哈!) 慢慢來。


郁勝
等級:8
留言加入好友
2023/04/02 23:44
已走到這一步,要打住恐已難了!
現已有很多AI繪圖軟件出現,首先,照片以後就不能做為佐證了。
nothing special(littlezone) 於 2023-04-03 08:36 回覆:

我想也是! 擋不住的。
已經開發出來的,不用藉機回本、獲利,太可惜(投資人就是要股息,賺錢哪!) 一票在ChatGPT後面追趕的公司,也想跳上Bend Wagon,共資、共榮咧~


安歐門
等級:8
留言加入好友
2023/04/02 11:26

AI存在已久,最近超紅,只因比爾蓋茲正在炒作股票,

如同3D列印,當初吹牛上天,股票炒完無影無蹤。

nothing special(littlezone) 於 2023-04-02 12:37 回覆:

安大當家不愧殷商氣息,從ChatGPT看到Bill在炒股,哪像不東不西的NS看到的純是科技與人生。科技的應用從無到發展以致實用,向來不是一蹴就成,總是要給它時日的嘛!

說到3D列印,日本不就用3D列印出的火箭升空了嗎? 只不過發射但未到軌道就完結了 (科技需要時日成長、茁壯又一例證!!)

這篇文貼出的是AI前進人士對科技發展太迅速,如若沒有道德加以規範,會衍生出人類生存危機,而發出的聲音。一二十年前,桃莉羊就是例子。如果不是在道德的尺度上給克隆科技踩了煞車,這世界不知亂成甚麼樣!!