彭博專訪 Anthropic 創辦人，揭秘與 OpenAI 的決裂及「安全第一」的使命。面對與五角大廈的合約衝突、大規模失業預警及強大模型 Mythos 帶來的威脅。
（前情提要：Claude有80%程式碼是自己寫的，Anthropic呼籲「全球設計煞車機制」玩真的？）
（背景補充：Anthropic執行長Dario Amodei：再6-12個月，中國開源AI模型就能追上 Mythos）
本文目錄
- 第一章：指數級增長的規律與願景
- 第二章：從舊金山童年到與 OpenAI 的決裂
- 第三章：定義 AI 的道德與「憲法」
- 第四章：企業佈局與失業危機
- 第五章：五角大廈的紅線與 Mythos 模型
- 第六章：如何面對 25% 的毀滅機率？
- 結語
在AI 的軍備競賽中，Anthropic 被視為 OpenAI 最強大的競爭對手，且已有領先的勢頭。這家由 OpenAI 前高管 Dario Amodei 與 Daniela Amodei 兄妹檔於 2021 年創立的公司，從一開始就標榜著「AI 安全」的旗號，旗下開發的 Claude 在業界贏得極高評價。
然而隨著時間推移，Anthropic 也陷入了權力與倫理的漩渦。從與五角大廈的合約糾紛，到足以摧毀網路安全的超級模型「Mythos」，這對兄妹檔正站在改變人類文明的風口浪尖。
彭博社資深記者 Emily Chang 親自走訪 Anthropic 舊金山總部，深入了解這家估值近兆美元公司的核心願景、內部矛盾以及對未來的恐懼，以下為影片重點整理。
第一章：指數級增長的規律與願景
Emily Chang： 我很喜歡這個圖書館。你是個大書蟲嗎？
Dario Amodei： 這裡確實非常漂亮。整體來說，我讀很多書，但老實說，在過去一年左右的時間裡，我幾乎沒有什麼閒暇時間了。
Emily Chang： 你們的產品更新得如此頻繁且快速，是怎麼做到的？
Dario Amodei： 我們在整個產品開發週期中都使用 Claude（自家模型）。這讓我們能夠以極快的速度發布。
Dario Amodei： 這種指數的感覺是：一開始好像什麼都沒發生，然後是一些小事發生，接著——砰！它就瘋狂地爆發了。我觀察這個規律很久了，我心裡想：「是的，我們很可能在某個時刻成為營收最高、估值最高的 AI 公司。」而這確實發生了。我們始終在思考：如何訓練好的模型？如何將它們轉化為好的產品？
最重要的是，如何確保一切是安全的。
第二章：從舊金山童年到與 OpenAI 的決裂
Emily Chang： 聊聊你在舊金山的童年吧。你的父親是皮革工匠，母親在圖書館工作，這對你有什麼影響？
Dario Amodei： 當時第一次網路革命正在發生，但我完全沒興趣。我只對數學、理解宇宙和科幻小說感興趣。我對世界充滿了強烈的好奇心。
Daniela Amodei（Anthropic 總裁）： Dario 從小就非常聰明。他國中就在修微積分，高中就在柏克萊大學修數學課。我則傾向於閱讀和藝術，我們在性格上幾乎是完美的互補。
備註：2016 年，Dario 加入了剛成立的 OpenAI，Daniela 也隨後於 2018 年加入。Dario 在那裡開發了著名的「縮放定律」，預言只要增加數據和算力，模型就會變得更聰明。這項理論為 ChatGPT 的成功鋪平了道路。但在 2021 年，Amodei 兄妹選擇離開，這已成為矽谷的傳說。
Emily Chang： 你們離開 OpenAI 的決定已經成為矽谷的「神話」了。你們到底在什麼問題上產生了分歧？
Dario Amodei： 關於「安全」問題，有很多合理的意見分歧。但分歧本身不足以讓人離開。真正的核心在於「信任」。當你覺得對方的價值觀與他口中所說的不符，當你覺得對方不誠實時，你就很難再合作下去。與其和沒有共同願景的人爭論，不如去做你自己的事。
第三章：定義 AI 的道德與「憲法」
Emily Chang： Claude 有一種非常獨特的風格與人性化的名字。你們想傳達什麼？
Daniela Amodei： 我們稱之為「職業溫暖」（Professional Warmth）。目標不是讓它成為你最好的朋友，而是讓它既親近又保持專業的距離感。
Emily Chang： 你們提到要教導 Claude 「變好」。什麼是好的模型？什麼又是壞的？
Daniela Amodei： 我們不希望模型說謊——無論是無意還是有意的，我們稱之為「幻覺」。我們也必須確保模型不會故意試圖欺騙用戶。在定義「好」與「壞」時，雖然沒有全球統一標準，但我們使用了《聯合國人權宣言》等創始文件來訓練它。
有趣的是，我們甚至開始與宗教領袖對話，探討如何將人類幾千年來共同守護的核心價值植入模型。
第四章：企業佈局與失業危機
Emily Chang： 為什麼選擇專注於企業與編碼？
Dario Amodei： 商業模式必須與價值觀一致。社群媒體的世界是由廣告和成癮驅動的。而在企業領域，AI 可以治癒疾病、優化能源。這更符合我們的目標。
Boris Cherny（Claude Code 負責人）： 以前工程師需要手動寫代碼，現在 Claude 寫代碼，我負責指揮。我有如擁有了噴射背包，工程師的角色正發生翻天覆地的變化。我個人 100% 的代碼都由 Claude 撰寫。
Emily Chang： 但這引發了擔憂。你曾預測 AI 可能取代一半的初級白領工作。現在還是這個看法嗎？
Dario Amodei： 我依然非常擔憂。目前 AI 讓人更高產，但當自動化接近 100% 時，人類該去做什麼？這是不舒服的事實。我們必須思考全民基本收入（UBI）或政策干預。
Daniela Amodei： 我稍微樂觀一點。我認為人類會找到利用 AI 的新方式，而人與人之間的互動（如醫學診斷中的床邊關懷）是 AI 永遠無法取代的。
第五章：五角大廈的紅線與 Mythos 模型
Emily Chang： 媒體報導 Claude 被用於針對伊朗的軍事行動，甚至在委內瑞拉的行動中被採用。
Dario Amodei： 我是一個愛國者，我認為我們需要保護民主免受威權威脅。但我劃下了紅線：Claude 不能被用於「大規模監控」或「全自動武器」。當五角大廈要求移除安全護欄時，我們拒絕了。即便被政府黑名單或被指控為「左翼瘋子」，我們也絕不退讓。
Emily Chang： 那麼關於「Mythos」模型呢？聽說它強大到讓外界感到恐懼。
Dario Amodei： Mythos 發現了幾乎所有主流作業系統的漏洞。測試過它的公司稱之為「超級武器」。
Emily Chang： 你們決定誰能使用它，誰不能。這種權力的集中難道不令人擔憂嗎？
Daniela Amodei： 這確實很複雜。我們必須在「防止它被用來入侵銀行、竊取機密」與「讓它幫助防禦者」之間尋找平衡。我們不希望重蹈社群媒體的覆轍，等到出錯了才去道歉。
第六章：如何面對 25% 的毀滅機率？
Emily Chang： 你曾提到人類文明有 10% 到 25% 的崩潰機率。為什麼你覺得你們能處理這種壓力？
Dario Amodei： 我透過「絕對的透明」來處理壓力。我每兩週就會在全體員工面前演講一小時，無所不談。這建立了信任，也讓我不覺得孤單。
許多人將推動核武發展但隨後呼籲軍控的奧本海默與這些 AI 先驅相提並論。但 Dario 認為，奧本海默在某種程度上是個「失敗的案例」。
Emily Chang： 你最認同的歷史人物是誰？奧本海默（Oppenheimer）嗎？
Dario Amodei： 我更認同里奧·西拉德（Leo Szilard），他是第一個想到鏈式反應的人。奧本海默某種程度上是一個失敗的案例，因為他沒有建立起足夠的制衡機制。我們需要的是制衡。
Emily Chang： 在這一切瘋狂的中心，你如何尋找寧靜？
Dario Amodei： 坦白說，就是「暴露療法」。有時我會和 Daniela 或妻子一起玩遊戲，或者去義大利看我們的馬「卡里普索」（Calypso）。牠對 AI 一無所知，牠只是一匹快樂的馬。這就是我的禪。
結語
Emily Chang： 你們正在建立一個無比強大的技術，且將從中獲利。我們為什麼要信任你們？
Dario Amodei： 懷疑是理所當然的。矽谷失去了很多信任。信任不能靠說的，必須靠做的。如果這群人都做不到（守住底線），那可能就沒人能做到了。我們無法保證成功，但我們可以保證我們會拚盡全力。
📍相關報導📍
OpenAI、Anthropic 四大巨頭罕見聯名上書國會，呼籲強制篩查 DNA 訂單：AI 正讓生物武器門檻崩塌
Anthropic：「Mythos Preview」模型決策能力超車人類專家，勝率高達 64%
AI 要監管》ChatGPT之父：人工智慧能操縱美國大選、應設立許可證制度
