OpenAI的神秘Q*項目曝光 或威脅人類?(圖)
OpenAI的神秘項目「Q*」近日被曝光。(圖片来源: Johannes Simon/Getty Images)
【看中國2023年11月28日訊】(看中國記者程帆編譯綜合報導)過去幾天,科技界似乎發生了翻天覆地的變化,這要歸功於AI(人工智能)先鋒OpenAI公司上演的一場冒險劇。因在產品安全問題上的分歧、缺乏一致的溝通,其公司董事會宣稱要解雇首席執行官(CEO)奧特曼(Sam Altman)。
儘管,上週OpenAI人事風波最終以奧特曼回歸而告一段落。然而,另一個將威脅人類、代號為「Q*」的神秘項目卻被拋了出來,人們對這個強大的新AI模型有太多的擔憂。
根據矽谷科技新聞The Information的報導,今年早些時候,OpenAI首席科學家苏茨基弗(Ilya Sutskever)領導的團隊取得了突破性進展,並建立了一個名為Q*(Q-star)的新模型。
據悉,新模型是一種能夠自行解決基本數學問題的演算法,包括那些超過其訓練資料之外的問題。這也使得它向備受期待的AGI(即通用人工智能,使AI能夠執行人腦可完成的任何智力任務)邁進了一大步。換句話說,它可能有了人類或超越人類級別的數學和邏輯能力,並能完成一些人類的中高端腦力勞動,這是GPT4等不具備或不擅長的東西。
總體來講,Q*展示了類似人的高階推理能力。例如,它將可以像人類一樣通過邏輯和推理來開拓出新領域、得到新知識。有人也稱之為「第四次」知識界限突破。
然而,這項尖端科技也引發了OpenAI內部員工的擔憂。據路透社消息,他們認為,公司尚未具備足夠的安全保障,來「商業化」這種先進的模式,因此它可能威脅人類。這項警告被認為是導致奧特曼解僱的最直接原因之一。
就在本月中旬召開的亞太經濟合作會議(APEC)工商領袖高峰會中,奧特曼還特地提到了新模型的製作,聲稱將使他們「揭開無知的面紗,推進發現的前沿」。
下面是Q*項目對人類構成威脅的潛在原因:
高階邏輯推理與對抽象概念的理解:目前網路上的所有報告都顯示Q*具有邏輯推理和理解抽象概念的能力。這是一個巨大的飛躍。迄今為止,還沒有任何AI模型能做到這一點。雖然在實踐層面上,這是一個突破,但它也可能導致人類無法預見某些不可知的行為或決策。
深度學習與程式設計規則:研究員卡拉諾夫斯卡(Sophia Kalanovska)向商業內幕(Business Insider)介紹道,Q*這個名字是Q-learning(一種強化學習AI)和a-star(一種智能搜索方法)的融合。她表示,新模型把深度學習與人類程式設計規則結合起來,會使其比目前其他任何AI模型都更加強大和通用。從本質上講,這可能導致該模型不僅從數據中學習,而且還能像人一樣應用推理,會使人類對其控制或預測變得困難。
發展新想法的能力:截至目前,AI模型主要是重複現有訊息,而Q*則是一個里程碑,它將能夠產生新想法並在事件發生之前就解決問題,或做出超越人類理解範圍的決策與行動。
意外後果與誤用:Q*功能也可能導致誤用或出現意外。一旦被壞人掌握,可能會為人類帶來滅頂之災。即使有人出於善意使用它,Q*推理和決策的複雜性也可能導致其對人類造成某種損害。
上述是基於網上對Q*相關問題的探討。這些擔憂強調,在開發先進AI時,人們必須深思熟慮,並需要一個強而力的道德和安全監督框架護航。
来源:看中國
短网址: 版權所有,任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。
看完這篇文章您覺得
- 戰爭一損俱損多煩憂 歐美印太頻現燃眉之急(組圖)
- 著名音樂家在六四事件中失去兒子(組圖)
- 忽必烈的「諸葛亮」元初蓋世奇才劉秉忠(組圖)
- 它們無形卻真實存在 歐洲的「精靈」(圖)
- 花蓮7.2強震 世界看見不一樣的臺灣(組圖)
- 大案信號!中共突提兩大敏感人物(圖)
- 李克強夫人程虹做七是真是假? 李中堂何在?四七歸來?(組圖)
- 王滬寧爭權 國臺辦埋釘子 三任妻子往事被抖(圖)
- 中共黨魁行蹤泄密?緊急通知現身網路(圖)
- 古今真相揭示:婚外戀有多可怕?(圖)
- 「東北是捅了雪窩了」衝上熱搜榜首(組圖)
- 飯局交際的3大忌 千萬別犯!(圖)
- 活了800多年的四川神仙(圖)
- 中國官方救樓市真意圖 樓盤降價遭打擊(圖)
- 中共肺炎(又称武漢肺炎)
- 病毒
- COVID-19
- 疫苗
- 台鐵
- 拜登
- 川普
- 特朗普
- 國安法
- 貿易戰
- 習近平
- 華為
- 三峽大壩
- 新疆棉
- 長江
- 洪水
- 袁弓夷
- 港版國安法
- 漢光演習
- 國民黨
- 退黨
- 弗洛伊德
- BLM
- 中共
- 閻麗夢
- 金正恩
- 王岐山
- 賴清德
- 孟晚舟
- 關稅
- 邊境牆
- 彭斯
- 美國
- 貿易談判
- 劉鶴
- 王滬寧
- 江澤民
- 崔永元
- 中南海
- 內幕
- 中共
- 反送中
- 貪官
- 情婦
- 腐敗
- 反腐
- 打虎
- 官場
- 看中國
- 一國兩制
- 法廣
- 社交媒體
- 往事微痕
- 出賣國土
- FB
- 六四
- 朝鮮
- 加拿大
- 脫歐
- 央行
- 債務
- 槓桿
- 美元
- 貨幣
- 人民幣
- 歐元
- 日元
- 港幣
- 房地產
- 樓市
- 財政
- 財富
- 中產
- 海參崴
- 台灣
- 蔡英文
- 北京
- 劉強東
- 大媽
- 房價
- 疫苗
- 非洲豬瘟
- 大陸
- P2P
- 霧霾
- 基因編輯
- 防火牆
- 維權
- 709律師
- 上訪
- 法輪功
- 網絡審查
- 活摘器官
- 江東六十四屯
- 唐努烏梁海
- 長白山
- 白龍尾島
- 江心坡
- SARS
- 新疆勞改營
- 言論自由
- 女主播
- 央視
- 華人
- 移民
- 華人
- 留學
- 海關
- 遣返
- 簽證
- 回國
- 入籍
- 綠卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民國
- 桂軍
- 抗戰
- 孫中山
- 蔣介石
- 宋美齡
- 鄧小平
- 林彪
- 劉奇
- 中共
- 皇帝
- 諸葛亮
- 易經
- 幽默人生
- 智慧
- 感悟
- 手機
- 預言
- 奇聞
- UFO
- 外星人
- 壽命
- 文革
- 養生
- 紫鳳
- 貫明
- 李道真
- 軼飛
- 李雲飛
- 雲中君
- 辛思
- 夏聞
- 時代漫談
- 滄海
- 東方縱橫
- 唐柏橋
- 王尚一
- 江楓
- 黃清
- 李唐風
- 園丁
- 今濤拍暗
- 李青城
- 秦就石
- 中經研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 馬新宇
- 馬來啟
- 紫君
- 秦山
- 陳破空
- 戴東尼
- 曹長青
- 邢仁濤
- 瑜正
- 簡易
- 肖川
- 伍凡
- 顧言
- 歸瑜
- 乙欣
- 陳泱潮
- 徐沛
- 中國各地財政捉襟見肘 「六四」維穩期縮短(圖)
- 多倫多2000人悼念六四 港星鄭敬基領唱《願榮光歸香港》(視頻)
- (全網最詳)前《解放軍報》記者:戒嚴部隊新聞處造假(視頻)
- 家運好不好 看「孩子長相」就知道(圖)
- 內灣傳奇 劉興欽漫畫翻轉小鎮命運(組圖)