復現(xiàn)高速施工駕駛輔助事故 問界/小米/理想等 誰會選擇撞卡車自斷A柱？
07:03
就在本屆世界人工智能大會開幕前3天，特朗普正式發(fā)布《美國AI行動計劃》，這份長達28頁、涉及90多項具體行政指令的AI施政方案，不僅改變了拜登時期的強監(jiān)管模式，通過放松監(jiān)管加速AI創(chuàng)新、加快美國本土AI基建，最后一章更直接點明：要向全球輸出美國的軟硬件標準，做世界AI霸主。
正正經(jīng)經(jīng)，政經(jīng)金觀察！
本周，2025世界人工智能大會在上海舉行。今年的大會上，人工智能大模型、人形機器人依舊是主角，不過對于AI是否會失控、甚至反噬世界的擔憂也明顯增加。當AI超越人類，我們該怎么辦？
展覽現(xiàn)場，被稱為人工智能“新物種”的AI智能體展現(xiàn)出的強大的能力，不僅能吟詩作畫，AI智能體展現(xiàn)出的執(zhí)行多任務和推理的復雜任務解決能力，讓人印象深刻。
國內“AI六小龍”之一的階躍星辰創(chuàng)始人、首席執(zhí)行官姜大昕介紹：“將來的智能體可以總結為12個字，總在場、能做事、有記憶、能進化，它可以一直伴隨著你，能夠看到你所看到的，能夠聽到你所聽到的，還能自我進化，更加適應你，很像電影《蜘蛛俠》里的賈維斯，或者電影《她》里面的薩曼莎。”
7月，OpenAI官宣發(fā)布迄今為止最強的“AI智能體”，從寫代碼、預訂機票、抓取數(shù)據(jù)，到跨軟件多輪自動化執(zhí)行流程，已初具“代理人”雛形。
同月，馬斯克也發(fā)布了號稱“全球最強大的AI模型”Grok4，在包含2500個專家級問題、涵蓋上百個學科，被稱為“人類最后的考試”（HLE）中，Grok4在不用工具的情況下拿下了26.9%的高分，馬斯克稱其幾乎在所有學科上都比人類研究生更聰明。
AI世界一日千里，超級智能將到來嗎？它真的會反噬世界嗎？
大會主旨演講中，首度在中國線下公開亮相的諾貝爾獎、圖靈獎獲得者辛頓博士，提出了一個尖銳的比喻，當前，人類與AI的關系，就像飼養(yǎng)了一只老虎幼崽，可愛卻也可能致命。人類只有兩個選擇，要么馴服它，要么消滅它。不過，由于AI已經(jīng)證明能大幅提升醫(yī)療、教育、氣象預測等工作效率，消除AI已幾乎不可能，即便有國家想消除，其他國家也不會認同。因此人類必須找到辦法馴服AI。
“我的觀點是，當今的多模態(tài)聊天機器人已經(jīng)具有意識，所以，各國可以分享讓它善良的技術，即使它們不愿意分享讓它聰明的技術。”辛頓說。
即便是馬斯克發(fā)布的號稱“全球最強”的AI模型GROK4，也由于贊美希特勒、反猶等言論引發(fā)巨大爭議，被批評“不負責任、充滿危險”；再比如，近些年每每提到AI，常有人擔心，AI和機器人會不會“搶”走人類的工作、加劇不平等？
在我看來，這都是人工智能治理要去解決的問題。作為生成式人工智能領域的權威專家，香港科技大學首席副校長、香港生成式人工智能研發(fā)中心主任郭毅可告訴我，人工智能的治理需要技術和規(guī)則并重，“讓人工智能有能力、有導向性的學習，它懂得什么叫好、什么叫壞，走向善道路。AGIL1（通用人工智能級別1）、AGIL2（通用人工智能級別2），就跟智能駕駛一樣，這可以定義清楚，一步步走，這可能又是治理上面很重要的問題?！?/p>
要聰明、更要善良，AI的發(fā)展需要全球協(xié)作，共同尋求對策。然而已經(jīng)站在“懸崖邊”的人類，似乎還沒有真正達成共識。
剛發(fā)布的《美國AI行動計劃》原本是美國發(fā)展AI產(chǎn)業(yè)的戰(zhàn)略規(guī)劃，卻充滿了對抗、限制和打壓中國的地緣政治意圖。我注意到，該計劃在第三支柱部分明確指出“在國際治理機構中對抗中國影響力”，進一步收緊人工智能芯片對華出口管制。
亮相今年大會爐邊對話的谷歌公司前首席執(zhí)行官、同時也是美國前國務卿基辛格的學生埃里克?施密特坦言，基辛格在人生最后的15年里，密切關注著AI迅猛發(fā)展的技術浪潮，他認為這將是人類共同面對的巨大挑戰(zhàn)，因此迫切需要全球的溝通協(xié)作，共同維護人類對技術的控制權。
連續(xù)舉辦的世界人工智能大會，中國正是為全球提供了一個平臺，不同國家、不同膚色的人群都可以一起坐下來談，探討一個各國都能接受、真正可行的人工智能的治理規(guī)則和方案，讓人工智能的技術能在更多國家普惠應用。
從發(fā)布多災種早期預警服務中國方案“媽祖”，到應對緬甸7.9級地震災后救援，中國人工智能團隊僅用7小時開發(fā)出中緬英三語互譯系統(tǒng)等，中國向世界分享人工智能技術和經(jīng)驗。
尼泊爾通訊與信息技術部專家夏力格·帕拉朱里表示：“作為一個多山的國家，通過與中國的AI合作，我們能夠跨越喜馬拉雅山脈提供各類智能服務?！?/p>
匈牙利創(chuàng)新署首席運營官羅伯特?索莫吉表示：“思考人工智能政策、倫理、規(guī)則及標準化的合作至關重要，人工智能不能被局限在單一國家，它是開放且跨國界的?！?/p>
回到片頭提出的問題，當AI不斷進化，它真的會最終反噬人類嗎？
正如辛頓在演講的最后所說，沒有一個國家希望AI統(tǒng)治世界，每個國家都希望人類能夠掌控世界。面對超級智能，全球需要基于這些共識，研究如何訓練超級AI向善，共享安全測試數(shù)據(jù)，并建立持續(xù)對話機制，讓AI輔助人類，而不是最終接管人類。
你們覺得呢？歡迎評論區(qū)留言。
看看新聞記者:金普慶
編輯:吳浩然
攝像:吳浩然
責編:王勇
計算機應用基礎教程詳解:從基礎知識到辦公軟件操作
《新編大學計算機基礎教程》第四版解析:全方位解讀計算機應用技術
零基礎輕松入門計算機網(wǎng)絡(附學習路線 + 計算機網(wǎng)絡教程)
