Open AI擔心未來十年超級智能導致人類滅絕(圖)

人工智能（AI）技術公司OpenAI（OLIVIER DOULIERY/AFP via Getty Images） 看中國網站 禁止建立鏡像網站 。

【看中國2023年7月10日訊】人工智能（AI）技術公司OpenAI擔心，未來十年超級智能的實現可能導致人類滅絕，該公司正在正在組建團隊防止這一切的發生。 看中國網站 禁止建立鏡像網站 。

全球流行的聊天機器人ChatGPT的製造者OpenAI表示，人工智能將為新的超級智能提供動力，幫助解決世界上最重要的問題，並成為人類發明的最重要技術。

然而，OpenAI聯合創始人兼首席科學家蘇茨克韋爾（Ilya Sutskever）和OpenAI聯盟負責人雷克（Jan Leike）警告，人類還沒有準備好應付超級智能。「超級智能的巨大力量可能非常危險，可能導致人類喪失權力，甚至滅絕，」蘇茨克韋爾和雷克在OpenAI的博客上寫道，「雖然超級智能現在看起來還很遙遠，但我們相信它可能在十年內到來。」

OpenAI最頂尖的科學家表示尚無計畫阻止AI推動的世界末日即將到來。「目前，我們還沒有一個解決方案來引導或控制潛在的超級人工智能，並防止其失控，」兩人寫道，「我們目前調整人工智能的技術，如根據人類反饋進行強化學習，依賴於人類監督人工智能的能力。但人類無法可靠地監督比我們聰明得多的人工智能系統。」

兩人透露，公司正在招聘研究工程師、科學家和管理人員，以組建新團隊，並限期四年通過解決超級智能的技術挑戰來幫助預防世界末日。

OpenAI領導人表示，他們並不能保證能阻止人類潛在的終結，但仍持樂觀態度。

美國國會也擔憂AI的潛在風險。參議院多數黨領袖舒默(Charles E.Schumer)呼籲制定管理AI的新規則，參議院司法委員會將繼續舉辦AI監督的聽證會，包括對AI可能導致網絡攻擊、政治不穩定和部署大規模殺傷性武器的擔憂進行審查。

5月，OpenAI首席執行官奧爾特曼(Sam Altman)在參議院司法委員會作證時表示，他擔憂AI工具可能被濫用來操縱人類。

參議院司法主席德賓(Richard J.Durbin)表示有興趣創建「AI問責制度」，其中包括人工智慧工具造成損害時潛在的聯邦和州民事責任。

谷歌和微軟等大型科技公司（OpenAI的捐助者）也呼籲對AI進行新的監管，聯邦政府正在傾聽。

拜登政府正忙於制定國家AI戰略，白宮高級官員每週會就AI相關問題舉行多次會議。

OpenAI週四表示，它正在向公眾提供其「最強大」的人工智能模型GPT-4，以提高開發人員的可訪問性。

来源:看中國

短网址: 版權所有，任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。

---

【誠徵榮譽會員】溪流能夠匯成大海，小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員：每位榮譽會員每年只需支付一份訂閱費用，成為《看中國》網站的榮譽會員，就可以助力我們突破審查與封鎖，向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊， 在危難時刻向他們發出預警，救他們於大瘟疫與其它社會危難之中。