OpenAI倡導在全球建立AI治理機構

OpenAI表示AI需要與核能相同的監管，並希望美國主導建立一個全球監管機構來處理相關事宜。 

據Cryptopolitan報導，此事發生之際，特朗普總統正前往北京進行九年來首次美中國事訪問，AI政策預計將列入議程。

據OpenAI全球事務副總裁Chris Lehane表示，特朗普與習近平同處一室，是兩國為AI建立長久合作的難得機遇。

"AI在某種程度上超越了許多現行或傳統的貿易類議題。這是一個真正開始在全球範圍內建立某種架構的機會，讓世界各國——包括中國——都有可能參與其中，"Chris Lehane在一次簡報會上表示。

OpenAI是什麼，為何它對全球政策的看法如此重要？

OpenAI是開發了ChatGPT的美國公司，ChatGPT是一款每天被數億人使用的熱門AI助手/聊天機器人。

該公司一直參與所有關於強大AI系統的重要討論。其執行長Sam Altman通常會與各國元首會面討論AI，甚至在國會作證，使該公司對全球AI政策具有舉足輕重的影響力。

OpenAI另外還捲入一場法律糾紛，起因是特斯拉執行長伊隆·馬斯克於2024年對該公司提起訴訟。馬斯克是OpenAI的創始人之一，他聲稱Sam Altman及其他高管違背了公司的非營利使命，將其轉變為一個營利性組織。 

審判仍在進行中，但本週更受關注的事件正在北京上演。

OpenAI提出了什麼建議，與國際原子能機構的比較又是怎麼回事？

OpenAI全球事務副總裁Chris Lehane提議將兩件事結合起來，創造出新的事物。

他希望美國商務部AI標準與創新中心和各AI安全研究機構攜手合作，建立一個全球網絡。他以國際原子能機構（IAEA）為例，說明各國如何將本國核監管機構整合為一個統一的整體。 

美國商務部AI標準與創新中心是一個負責制定AI系統技術標準的政府機構。 

與此同時，各國正在全球範圍內建立AI研究機構。例如，英國已設立相關機構，歐盟正在制定框架，多個亞洲國家政府也在籌建類似機構。 

Lehane表示，一個統一的AI機構將有助於建立更安全、更具韌性且不易受到攻擊的系統。他同時希望美國政府強制要求該國研究人員在部署最強大的AI模型之前對其進行測試。 

Mythos模型是什麼，為何讓華盛頓和北京都感到不安？

Mythos是一款新型強大AI模型，它在作業系統和其他軟體中發現了「數千個」重大漏洞。Mythos由Anthropic（一家獲得Google和Amazon支持的AI安全公司）開發。

Mythos的能力規模震驚了全球，各銀行和政府在公告發布後紛紛緊急修補安全防禦。白宮官員甚至承認，像Mythos這樣的模型使得與中國的溝通比以往任何時候都更加重要。 

中國被拒於Mythos預覽版的早期訪問之外，引發外界對中國開發者和政府能否抵禦利用該AI模型發動攻擊的擔憂。 

市場情報公司IDC中國甚至警告，將中國排除在Mythos之外，可能在中國與西方之間製造AI防禦能力上的「代際差距」。 

據研究人員表示，攻擊者可能利用先進AI設計生化武器、觸發金融衝擊，或在無人控制的情況下自主行動。最令人恐懼的是，AI只需足夠強大、快速，並被引導至錯誤方向，就能完成所有這些事情。 

特朗普與習近平的會面發生了什麼，雙方討論了哪些議題？

美國赴華代表團包括英偉達執行長黃仁勳和白宮首席技術政策顧問Michael Kratsios。他們的出席使此次會議成為重中之重的緊迫議題，雙方均有備而來，直接就AI問題展開討論。 

中國提議就AI議題建立正式對話機制，由財政部長Scott Bessent和中國財政部副部長廖岷主導。但各方對這一渠道的期望並不高，因為兩個機構均非AI專業部門。

美國還計劃提出關切，指出中國開發者正在利用先進AI模型的輸出成果，以極低的成本構建系統，但安全防護措施卻相對不足。

雙方還討論了建立一條免責熱線的可能性，用於舉報疑似AI驅動的事件，類似於軍事熱線。

分析人士甚至建議，兩國政府可以就前沿AI模型作出安全防護承諾，類似於2015年美中網絡安全協議。

最後，討論還可能涉及《MATCH法案》——一項擬議中的美國法律，旨在限制中國獲取半導體供應鏈。 

清華大學的孫成昊參與了美中AI會談，並表示美國應在管理AI安全風險與單純阻礙中國科技發展之間劃出清晰界線。 

"中國可能希望美國能夠適當區分AI治理與科技遏制，"孫成昊說。 

如果您正在閱讀本文，說明您已經走在前列。訂閱我們的電子報，保持領先。