馬斯克:人工智慧有1/5可能性毀滅人類(圖)
馬斯克
【看中國2024年4月2日訊】儘管人工智慧可能有五分之一的概率對人類生存構成威脅,但埃隆·馬斯克仍然堅信這是值得冒險的。
在最近的Abundance360峰會上,馬斯克在「人工智慧辯論」研討會上表示,他重新評估了人工智慧技術的風險,並認為「人工智慧有可能毀滅人類,但總體上還是利大於弊」。
然而,馬斯克沒有透露他是如何進行風險評估的。
人工智慧安全研究員、路易斯維爾大學網路安全實驗室主任羅曼·揚波爾斯基(Roman Yampolskiy)接受《商業內幕》採訪時表示,馬斯克對人工智慧可能對人類構成生存威脅的擔憂是正確的,但「如果有什麼問題的話,那就是他的評估有點過於保守了」。
「在我看來,人類面臨災難的可能性要高得多。」揚波爾斯基說。他所說的災難包括人工智慧控制人類或導致人類終結事件的可能性,例如創造新型生物武器或由於大規模網路攻擊或核戰爭而導致社會崩潰。
《紐約時報》稱這種災難是「席捲矽谷的一種病態的新統計學」,該媒體引用多位科技高管的估計,他們認為人工智慧引發世界末日的可能性在5%到50%之間。但揚波爾斯基認為這一風險高達「99.999999%」。
揚波爾斯基表示,由於我們無法控制先進的人工智慧,因此我們唯一的希望是從一開始就不要創造它。
「我不明白為什麼馬斯克認為研究人工智慧是個好主意,」揚波爾斯基補充道,「如果他擔心競爭對手搶先一步,那大可不必,因為無論是誰創造了它,這種不受控制的超級智能給我們帶來的生存威脅都是一樣糟糕。」
去年11月,馬斯克表示,人工智慧技術最終「變壞」的可能性「並非為零」,但他並沒有進一步說明,如果真的「變壞」,這項技術可能會毀滅人類。
儘管馬斯克一直是人工智慧監管的倡導者,但他去年創立了一家名為xAI的公司,該公司致力於進一步擴大人工智慧的力量。xAI是OpenAI的競爭對手,OpenAI是馬斯克在2018年退出董事會之前與薩姆·奧特曼(Sam Altman)共同創立的公司。
在峰會上,馬斯克估計,到2030年,數字智能將超過所有人類智能的總和。雖然他堅持認為研究人工智慧利大於弊,但馬斯克也承認,如果人工智慧在一些最直接的領域繼續按照目前的軌跡發展,世界將面臨風險。
「你培養一個通用人工智慧,這幾乎就像撫養一個孩子,但他是一個超級天才,所以你如何培養這個孩子很重要。」馬斯克在3月的一場矽谷活動中說,「人工智慧安全方面,我認為最重要的一點是需要培養一個最大程度尋求真相並且具有好奇心的AI。」
馬斯克表示,關於實現人工智慧安全的最佳方式,他的「最終結論」是以迫使人工智慧變得誠實的方式來發展人工智慧。
「不要強迫它撒謊,即使事實令人不舒服。」馬斯克在談到保護人類免受科技侵害的最佳方法時說,「這非常重要,不要讓人工智慧撒謊。」
據《獨立報》報導,研究人員發現,一旦人工智慧學會對人類撒謊,使用當前的人工智慧安全措施就不可能逆轉這種欺騙行為。
該媒體引用的研究稱,「如果一個模型由於欺騙性的儀器校準或模型中毒而表現出欺騙性行為,當前的安全培訓技術將無法保證安全,甚至可能造成一種安全的假象。」
更令人不安的是,研究人員補充說,人工智慧可能會自己學會欺騙,而不是被專門教導說謊。
「如果它變得比我們聰明得多,它就會非常擅長操縱,因為它會從我們這裡學到這一點,」傑弗里·辛頓(Geoffrey Hinton)被稱為「人工智慧教父」,他告訴CNN,「很少有一個更聰明的東西被一個不那麼聰明的東西控制的例子。」
責任編輯:呂仁
短网址: 版權所有,任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。
看完這篇文章您覺得
- 【貫明專欄】臺灣最美的海灣 人間仙境七星潭(視頻)
- 水果皇后——草莓(組圖)
- 戰火無情 造化弄人 那一代人的離合滄桑(組圖)
- 千年前的人類抵禦矮人「他」化為惡龍(圖)
- 龍年龍抬頭地龍翻身 世界已現動盪不祥之兆(組圖)
- 世界上最貴的歌 4句歌詞火遍全球(組圖)
- 從李克強表弟、原浙江副省長朱十億被抓時「下巴發抖」說起(圖)
- 驚傳籃協主席姚明被連夜帶走(圖)
- 習近平最怕的三件事都被高层泄露 中共倒臺一步之遥(圖)
- 中共變天預言:南軍與南方新勢力(組圖)
- 薄熙來是怎樣談論胡溫和吳儀的?(圖)
- 前司法部部長唐一軍被查 曝露一個鮮為人知的罪行(圖)
- 2025人人都無法逃過去的巨難海嘯?!(視頻)
- 傳長沙1000村民砸爛派出所出人命 全域斷網(圖)
- 中共肺炎(又称武漢肺炎)
- 病毒
- COVID-19
- 疫苗
- 台鐵
- 拜登
- 川普
- 特朗普
- 國安法
- 貿易戰
- 習近平
- 華為
- 三峽大壩
- 新疆棉
- 長江
- 洪水
- 袁弓夷
- 港版國安法
- 漢光演習
- 國民黨
- 退黨
- 弗洛伊德
- BLM
- 中共
- 閻麗夢
- 金正恩
- 王岐山
- 賴清德
- 孟晚舟
- 關稅
- 邊境牆
- 彭斯
- 美國
- 貿易談判
- 劉鶴
- 王滬寧
- 江澤民
- 崔永元
- 中南海
- 內幕
- 中共
- 反送中
- 貪官
- 情婦
- 腐敗
- 反腐
- 打虎
- 官場
- 看中國
- 一國兩制
- 法廣
- 社交媒體
- 往事微痕
- 出賣國土
- FB
- 六四
- 朝鮮
- 加拿大
- 脫歐
- 央行
- 債務
- 槓桿
- 美元
- 貨幣
- 人民幣
- 歐元
- 日元
- 港幣
- 房地產
- 樓市
- 財政
- 財富
- 中產
- 海參崴
- 台灣
- 蔡英文
- 北京
- 劉強東
- 大媽
- 房價
- 疫苗
- 非洲豬瘟
- 大陸
- P2P
- 霧霾
- 基因編輯
- 防火牆
- 維權
- 709律師
- 上訪
- 法輪功
- 網絡審查
- 活摘器官
- 江東六十四屯
- 唐努烏梁海
- 長白山
- 白龍尾島
- 江心坡
- SARS
- 新疆勞改營
- 言論自由
- 女主播
- 央視
- 華人
- 移民
- 華人
- 留學
- 海關
- 遣返
- 簽證
- 回國
- 入籍
- 綠卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民國
- 桂軍
- 抗戰
- 孫中山
- 蔣介石
- 宋美齡
- 鄧小平
- 林彪
- 劉奇
- 中共
- 皇帝
- 諸葛亮
- 易經
- 幽默人生
- 智慧
- 感悟
- 手機
- 預言
- 奇聞
- UFO
- 外星人
- 壽命
- 文革
- 養生
- 紫鳳
- 貫明
- 李道真
- 軼飛
- 李雲飛
- 雲中君
- 辛思
- 夏聞
- 時代漫談
- 滄海
- 東方縱橫
- 唐柏橋
- 王尚一
- 江楓
- 黃清
- 李唐風
- 園丁
- 今濤拍暗
- 李青城
- 秦就石
- 中經研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 馬新宇
- 馬來啟
- 紫君
- 秦山
- 陳破空
- 戴東尼
- 曹長青
- 邢仁濤
- 瑜正
- 簡易
- 肖川
- 伍凡
- 顧言
- 歸瑜
- 乙欣
- 陳泱潮
- 徐沛
- 不要隨便介入他人的因果鏈(圖)
- 寶林茶室中毒案再奪一命 議員揭廚師證照漏洞(圖)
- 上海神祕實驗室曝光?知名病毒學家被逼門口打地鋪(組圖)
- 60歲阿根廷美女選美封后 全球史上首位(圖)
- 民調發現拜登是70年來最不受歡迎總統(圖)