<option id="988ha"><object id="988ha"></object></option>

    <wbr id="988ha"></wbr>

      1. <tr id="988ha"><source id="988ha"></source></tr>
      2. 首頁|必讀|視頻|專訪|運營|制造|監管|大數據|物聯網|量子|元宇宙|博客|特約記者
        手機|互聯網|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯網|會展
        首頁 >> 人工智能 >> 正文

        《科學》發文!25位頂尖科學家呼吁:在AI快速發展中需管控極端風險

        2024年5月23日 09:44  財聯社  作 者:周子意

        面對可能迅速發展的人工智能,全球的風險應對能力似乎并未步入正軌。

        在韓國首爾舉行的第二屆人工智能安全峰會(5月21日至22日)開展之際,25位世界領先的人工智能科學家在《科學》雜志上共同發表了一篇專家共識論文,他們認為,當今全球在保護人類免受技術滋生的風險方面做得還不夠。

        在論文中,他們概述了全球領導人應該采取的緊急政策優先事項,以應對人工智能技術的威脅。

        重要建議

        該論文的合著者包括Geoffrey Hinton, Andrew Yao, Dawn Song,Daniel Kahneman等25位世界領先的人工智能及其治理學術專家。這些作者來自美國、中國、歐盟、英國和其他人工智能大國,其中還包括圖靈獎得主、諾貝爾獎獲得者和標準人工智能教科書的作者。

        這些科學家指出,世界各國領導人必須認真對待在當前十年或未來十年開發出強大的通用人工智能(AGI)系統的可能性,這種系統有可能在許多關鍵領域的表現都超越了人類。

        他們還稱,盡管世界各國政府一直在討論前沿人工智能,并在引入初步指導方針方面做出了一些嘗試,但這與許多專家預期的快速、變革性進展的可能性根本不相稱。

        該論文的合著者、牛津大學工程科學系的Philip Torr教授稱,“在上次人工智能峰會上,全世界都贊成需要采取行動,但現在是時候從模糊的建議變成具體的承諾了!

        這篇論文為公司和政府應該承諾做什么提供了一些重要建議,包括:

        建立能迅速對風險作出反應的專家機構來監督人工智能,并為這些機構提供更多的資金。

        要求更嚴格的風險評估,并具有可執行的結果,而不是依賴于自愿的或未明確的模型評估。

        要求人工智能公司優先考慮安全,并證明他們的系統不會造成傷害,人工智能開發人員應考慮安全性。

        實施與人工智能系統構成的風險水平相符的風險緩釋標準。應設置適當的策略,當人工智能達到某些能力里程碑時自動觸發嚴格的要求;但如果人工智能進展緩慢,要求會相應放寬。

        值得一提的是,當地時間周二(5月21日)在首爾人工智能峰會上,微軟、亞馬遜、OpenAI等科技巨頭就人工智能安全達成了一項具有里程碑意義的國際協議。

        這項協議下,許多企業做出承諾,包括發布安全框架,列出衡量潛在風險;一旦發現了這種極端情況,如果不能保證降低風險,企業們就需要打開“緊急停止開關”,叫停AI模型的開發進程。

        政府監管帶頭

        根據作者的說法,對于未來異常強大的人工智能系統,政府必須準備好在監管方面發揮帶頭作用。這包括:許可這些系統的開發,限制其在關鍵社會角色中的自主權,停止其開發和部署以應對令人擔憂的功能,強制訪問控制,以及要求對國家級黑客采取強有力的信息安全措施。

        加州大學伯克利分校計算機科學教授、世界標準人工智能教科書的作者斯圖爾特·羅素Stuart Russell OBE表示,“這是一份由頂尖專家達成共識的論文,它呼吁政府嚴格監管,而不是由行業制定自愿的行為準則!

        他補充道,“是時候認真對待先進的人工智能系統了。這些不是玩具。如果說‘監管扼殺了創新’,那太荒唐了,因為對那些普通三明治店的監管甚至比對人工智能公司的監管還多!

        編 輯:章芳
        聲明:刊載本文目的在于傳播更多行業信息,本站只提供參考并不構成任何投資及應用建議。如網站內容涉及作品版權和其它問題,請在30日內與本網聯系,我們將在第一時間刪除內容。本站聯系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯系方式,進行的“內容核實”、“商務聯系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權。
        相關新聞              
         
        人物
        中國移動李慧鏑:積極推進算力網絡AI注智賦能,推動實現自智網絡“三零三自”愿景
        精彩專題
        CES 2024國際消費電子展
        2023年信息通信產業盤點暨頒獎禮
        飛象網2023年手機評選
        第24屆中國國際光電博覽會
        CCTIME推薦
        關于我們 | 廣告報價 | 聯系我們 | 隱私聲明 | 本站地圖
        CCTIME飛象網 CopyRight © 2007-2024 By CCTIME.COM
        京ICP備08004280號-1  電信與信息服務業務經營許可證080234號 京公網安備110105000771號
        公司名稱: 北京飛象互動文化傳媒有限公司
        未經書面許可,禁止轉載、摘編、復制、鏡像
        99热精品在线,99热精品在线观看,99热精品只有这里有,99热热这里只有精品,99热婷婷国产精品综合,99精品免费视频在线观看,99精品全国免费久久,99精品视频看国产啪视频,99精品视频全部免费,99精品视频网站,一级大黄片免费看,欧美性色生活片一级,女人的奶头视频不遮挡,一级国产片一区二区三区,国产精品亚洲片在线红樱桃,国产交换仑片在线观看免费,国产交换配乱婬播放免费,国产交换配乱婬视频老人,国产交换配乱婬视频偷试看,国产交换配乱婬视频偷网站