從 Claude Code 到 Cowork：AI Agent、通才時代與「潛在需求」
本文為 Boris Cherny × Lenny Rachitsky 訪談逐字稿系列第 2 篇，共 3 篇。
從 Claude Code 到 Cowork：AI Agent、通才時代與「潛在需求」
非技術背景的人也開始具備工程能力
Lenny Rachitsky： 最令人驚嘆的是，你正在打造的這款工具讓任何人都能做到這點。完全沒有技術背景的人，也能做到你剛才所描述的一切。我自己最近就做了一堆稀奇古怪的小專案，任何時候只要卡住了，就直接問一句「幫我解決這個問題」，立刻就能排除阻礙。
我早年在職業生涯中做過 10 年的工程師，我深切記得以前要把大把時間浪費在函式庫、相依套件之類的事情上，心裡不斷崩潰「天啊，我到底該怎麼辦」，然後在 Stack Overflow 上瘋狂翻找答案。而現在只要說「幫我想辦法搞定這個」，接著就是條列清楚的一、二、三、四步驟，問題就迎刃而解了。
Boris Cherny： 完全沒錯，正是如此。我今天稍早才跟一位工程師聊天，他正在用 Go 語言寫某項後端服務，大概已經寫了一個月左右，整個服務架構搭得相當不錯、運行得很順暢。我問他：「你覺得用 Go 寫起來感覺如何？」他說：「其實……我到現在還是不太懂 Go 語言到底怎麼運作的。」
我想我們接下來會越來越頻繁地看到這種現象：只要你能確保它運作正確且高效，你其實不再需要搞懂所有的底層細節了。
什麼才是真正的 AI Agent
Lenny Rachitsky： 軟體工程師的生活顯然已經徹底改頭換面了，在過去這兩年裡幾乎演變成了一份嶄新的工作。在科技產業內部——比如產品經理（PM）、設計師——甚至跨出科技圈之外，你認為下一個受到 AI 最劇烈衝擊的角色會是誰？你覺得 AI 接下來會邁向何方？
Boris Cherny： 我認為會是許多與工程緊密相鄰的角色。例如產品經理、設計師、資料科學家。基本上，這會擴展到任何可以在電腦上完成的工作，因為模型在這些任務上的能力只會變得越來越強大。
Cowork 這款產品算是一個切入點，但也僅僅是個開端。它把具備行動能力的 Agent 型 AI 帶到了那些以前從未接觸過的人面前，讓大家第一次對這種能力有了具體的感受。
回想一年前的軟體工程領域，其實沒有人真正懂什麼叫 Agent，也沒有人真的在用它；但到了今天，這已經成為我們日常工作的必備方式。而當我看著現今非技術或半技術領域的工作——例如產品規劃、資料科學——大家在使用 AI 時，幾乎依然停留在對話式 AI，也就是聊天機器人（Chatbot）的形式，幾乎沒有人真正用過 Agent。
現在「Agent」這個詞被大家隨處亂扔、浮濫使用，幾乎已經失去了所有意義。但 Agent 其實有一個非常嚴格的技術定義：它是一個能夠「使用工具」的大語言模型（LLM）。它不只是跟你在那裡動嘴皮子聊天，而是能夠真正採取行動、能夠與你的作業系統互動。這代表它可以使用你的 Google Docs、可以幫你寄 Email、可以在你的電腦上執行終端機指令等等。
因此，任何涉及使用各類電腦工具的工作，我認為都會是下一波被重塑的對象。這是我們作為一個社會整體必須去面對與解決的課題，也是整個科技產業必須思索的方向。
就我個人而言，這也是為什麼我覺得在 Anthropic 推動這項工作極為重要且緊迫的原因。我們非常非常嚴肅地看待這件事。所以現在 Anthropic 內部有經濟學家、政策專家、社會影響力專家，我們希望廣泛探討這個議題，好讓全社會能一同決定該如何因應，因為這絕不應該由我們單方面說了算。
Lenny Rachitsky： 你剛才隱約觸及了一個核心大哉問：就業機會與失業問題。這裡有所謂的「傑文斯悖論（Jevons paradox）」——當我們生產事物的能力越強、成本越低，整體需求反而越大，雇用的人數其實也會隨之增加，事情或許沒有表面上看起來那麼可怕。在 AI 成為工程日常核心的這段時間裡，你的實際體會是什麼？與沒有 AI 相比，你們雇用了更多人嗎？你對整體就業前景有何看法？
Boris Cherny： 就我們團隊而言，我們目前確實在持續招募。Claude Code 團隊正在徵才，有興趣的人可以直接造訪 Anthropic 的職缺頁面。
以我個人來說，這一切純粹讓我更加熱愛我的工作。我從未像今天這樣享受寫程式，因為我不再需要去應付那些瑣碎繁雜的細節。這對我個人而言非常振奮。我們也從許多客戶那裡聽到類似的反饋：他們深愛 Claude Code 這套工具，因為它讓寫程式重新變回一件令人愉悅的事，為他們帶來了巨大的樂趣。
但這一切最終會走向何方，坦白講很難預料。我依然必須藉助歷史的參照物，而古騰堡印刷機真的是一個極為貼切的例子。當時發生的事情是：一項原本只被少數人壟斷的技術——也就是識字與書寫——徹底普及給了所有人。它本質上是一股民主化的力量，讓每個人都開始具備這樣的能力。如果當初沒有發生這場普及，文藝復興之類的運動根本不可能降臨，因為文藝復興很大程度仰賴知識的擴散、仰賴人們透過文字記錄相互交流——在那個沒有電話、沒有網路的時代更是如此。
這一切的核心在於：這項工具為下一步解鎖了什麼可能？這是我非常樂觀看待的角度，也是讓我深感興奮的部分。那是完全難以想像的——如果當初沒有發明印刷機，我們今天根本不可能坐在這裡對話，我們面前的麥克風不會存在，身邊所有的事物都不可能誕生，因為沒有文字記錄，人類根本無法協調組織如此龐大規模的群體。
因此，我預見在幾年後的未來世界，每個人都具備寫軟體的能力。那將會解鎖多麼巨大的潛力？任何人隨時都能打造自己想要的軟體。至於那到底會帶來什麼樣的未來，我完全無法精準預測，就像 15 世紀的人無法預見現代世界一樣。但我確實相信，在轉型期間，這將會帶來劇烈的顛覆，對許多人而言會是一段痛苦的過程。這也是為什麼作為一個社會，我們必須共同展開這場對話，一起想出因應之道。
每個人都會寫程式的通才時代
Lenny Rachitsky： 對於正在聽這集播客、渴望在這場即將到來的動盪風暴中脫穎而出並取得成功的人，你有什麼建議嗎？是盡情去把玩各類 AI 工具、對最新技術保持精通？還是有其他任何建議能幫助大家保持領先？
Boris Cherny： 是的，我認為核心大致就是如此：放手去實驗各種工具、去熟悉它們，不要害怕它們。直接縱身跳進去、親自試用，讓自己站在最前沿、站在技術的刀鋒邊緣。
第二個建議是：努力讓自己比過去更像個「通才（Generalist）」。舉例來說，在學校裡，很多念資工系的人只學會了寫程式，其他領域幾乎一無所知，頂多懂一點系統架構之類的概念。但我每天共事過最強大、最有效率的工程師，以及許多最出色的產品經理，全都是跨領域的人才。
在 Claude Code 團隊裡，每個人都寫程式：我們的產品經理寫程式、我們的工程經理寫程式、我們的設計師寫程式、我們的財務人員寫程式、我們的資料科學家也寫程式。團隊裡的所有人都在寫程式。
當我觀察那些頂尖的工程師時，他們往往具備跨學科的綜合能力：有些頂尖工程師是兼具產品與底層基礎設施思維的複合型人才；有些產品工程師具備絕佳的設計品味，甚至能親自操刀設計；有些工程師對商業模式極為敏銳，能以此推導出產品的下一步該做什麼；還有些工程師特別熱愛與使用者交流，能完美捕捉使用者的心聲來決定產品方向。
因此，我認為在未來幾年能獲得最大回報的人，不僅僅是那些原生擁抱 AI、能把這些工具運用得淋漓盡致的人，更在於他們抱持強烈的好奇心、身兼通才身分，能夠橫跨多個領域，去思考他們所要解決的整體全局問題，而不只是局限在純粹的工程實現本身。
工程、設計與產品的界線開始消失
Lenny Rachitsky： 你覺得將團隊劃分為「工程」、「設計」、「產品管理」這三種獨立的職能，在現階段依然是個有效的心智模型嗎？儘管他們現在都開始寫程式、也都參與思考該構建什麼，你認為這三種角色從長遠來看依然會獨立存在嗎？
Boris Cherny： 我認為短期之內它們依然會存在。但我們已經開始看到這三個角色之間出現了大概 50% 的重疊，許多人其實都在做著相同的事，只是各自依然保有專業強項。例如我寫程式的比例稍微高一點，而我們的產品經理 Cat 則花更多精力在跨部門協調、規劃、預測等等。
Lenny Rachitsky： 利害關係人協調（Stakeholder alignment）。
Boris Cherny： 對，正是利害關係人協調。
但我確實認為未來會走向一個局面：到今年年底，這些界線將會變得更加模糊。我認為在某些地方，「軟體工程師」這個職稱將會開始消失，取而代之的就只是「建構者（Builder）」，或者變成每個人都是產品經理，而且每個人都在寫程式。
AI 讓工作變得更有趣嗎
Lenny Rachitsky： 你剛才提到你現在寫程式比以前更開心了。我其實最近在 Twitter 上做了一個非正式的小調查，不知道你有沒有看到。我發了三個不同的投票，分別問工程師、產品經理和設計師：「自從導入 AI 工具後，你覺得自己的工作是變得更有趣、還是更無趣了？」
結果非常驚人：在工程師與產品經理這兩個族群中，高達 70% 的人都表示他們更享受自己的工作了，只有大約 10% 的人說變得比較不享受。但有趣的是設計師：只有 55% 的設計師表示變得更享受，甚至有 20% 的人表示工作變得更無趣了。我覺得這個現象非常耐人尋味。
Boris Cherny： 這太有意思了。我很想跟這兩群人都聊聊——不管是覺得更有趣的那一群，還是覺得變得沒那麼有趣的那一群。你有去追問其中任何人的具體原因嗎？
Lenny Rachitsky： 有一些人回覆了，我們後續還會做一場深入的追蹤投票，我會把連結放在節目說明欄裡。裡面探討了究竟是什麼因素讓工作變好玩或變枯燥。不過老實說，設計師們並沒有透露太多細節，當被具體問到「為什麼你覺得工作變無趣了」時，我並沒有收到很多回音，所以我很好奇背後的原因到底是什麼。
Boris Cherny： 我在 Anthropic 內部確實有觀察到一點端倪。在 Anthropic，每個人普遍都具備相當高的技術水平，這是我們在招募時就會嚴格篩選的——即使是非技術職能，面試流程中也包含大量的技術面試。
我們團隊的設計師大部分本身就都會寫程式。就我的觀察，這對他們來說其實是一件非常享受的事，因為現在他們再也不需要成天去催促、拜託工程師幫忙改東西了，他們可以直接自己挽起袖子進程式庫裡改程式。甚至一些以前完全不寫程式的設計師也開始動手寫了，這讓他們感到非常過癮，因為他們能徹底替自己排除卡點。但我確實也很想多聽聽廣大外部使用者的真實體驗，因為我敢說這在不同公司之間絕對不是一概而論的。
Lenny Rachitsky： 如果聽眾朋友正在收聽這期節目，而且你剛好覺得自己的工作變得越來越無聊、越來越沒樂趣，歡迎在下方留言分享。因為照你所說、以及我從大部分人那裡聽到的反饋，70% 的 PM 和工程師都比以前更熱愛自己的工作。如果你不在這個群體裡，可能確實有些地方不太對勁。
Boris Cherny： 是的。而且我們也發現大家使用的工具習慣不太一樣。舉例來說，我們的設計師在寫程式時，更常使用 Claude 的桌面端應用程式。你只要下載桌面版，裡面就有一個 Code 分頁，就位在 Cowork 分頁旁邊。它底層跑的其實完全就是一模一樣的 Claude Code，同一個 Agent、所有底層邏輯全是一樣的，我們這套系統已經運行很多個月了。
透過這種介面，你不需要在螢幕上打開一堆終端機黑底白字視窗，但你依然能享受到 Claude Code 的全部威力。最關鍵的是，你可以隨心所欲同時平行啟動多個 Claude 工作階段，我們稱之為「Multi-Clauding（多重 Claude 協作）」。我認為這對於非工程背景的人來說顯得親切、自然得多。
這又回到了那個核心原則：把產品帶到使用者目前所在的場景中。不要強迫人們去改變他們既有的工作習慣，不要讓他們大費周章去硬學一套全新的工作流程。無論人們平常習慣做什麼，只要你能幫他們把既有的流程弄得稍微順暢輕鬆一點，那就會是一款大家更喜歡、更享受的優秀產品。這就是所謂的「潛在需求（Latent Demand）」原則，我認為這是整個產品開發中最核心的一項法則。
潛在需求：觀察使用者如何「誤用」產品
Lenny Rachitsky： 你可以多聊聊這點嗎？我本來就想切入這個話題。請跟我們解釋一下到底什麼是「潛在需求」原則，以及當你成功解鎖了這種潛在需求時，會發生什麼效應？
Boris Cherny： 「潛在需求」的核心概念在於：如果你打造一款產品的方式，讓它可以被使用者以原本完全沒有預期到的方式被「改造（Hack）」或「挪用（Misuse）」，藉此完成他們自己想做的事情，那麼這項現象就能指引身為產品構建者的你，看清產品下一步究竟該往哪裡走。
最經典的例子就是 Facebook Marketplace（臉書二手市集）。市集團隊的主管 Fiona——她其實是最初打造市集團隊的創始主管——經常提到這件事。Marketplace 的起源是來自大約在 2016 年左右的一項數據觀察：當時 Facebook 社團（Groups）裡居然有 40% 的發文全部都在買賣二手物品！
這是一件非常不可思議的事。大家在某種意義上「挪用」了社團這項產品來做買賣。這並不是資安層面上的惡意濫用，而是在設計上根本沒有人預設過這個用途，但使用者自己摸索出了這個玩法，因為社團對買賣來說實在太好用了。
因此顯而易見的推論是：如果你能專門打造一款更好的專用產品來滿足大家的買賣需求，使用者絕對會買單。從這個數據出發，Marketplace 會大受歡迎幾乎是板上釘釘的事。於是他們先推出了專門的買賣社團，隨後便推出了 Marketplace 這項獨立產品。
我想 Facebook Dating（臉書約會功能）最初的切入點也極為相似。當初的數據觀察是：在所有檢視個人檔案的流量中，有 60% 的瀏覽紀錄是發生在彼此並非好友、且為異性的用戶之間。這顯然就是傳統約會交友的行為雛形——大家其實都在偷偷瀏覽對方的檔案。因此如果你能針對這種行為打造一款產品，它就有極高的機率能成功。
從 Claude Code 的非技術用途到 Cowork
這種潛在需求的威力是極其強大的。舉例來說，這也正是 Cowork 這款產品誕生的契機。在過去大約六個月的時間裡，我們注意到大量使用 Claude Code 的人，根本不是用它來寫程式碼！
在 Twitter 上有人用它來指導種植番茄；有人用它來分析自己的基因定序數據；有人用它從損毀的硬碟中搶救婚禮照片；還有人用它來解讀核磁共振（MRI）影像。全都是些完全脫離技術開發範疇的應用場景。
當時顯而易見的一點是：使用者居然願意大費周章、排除萬難地跑去開啟黑底白字的終端機介面來做這些雜事。既然如此，我們為什麼不乾脆為他們量身打造一款產品呢？
其實早在去年五月左右，我們就敏銳觀察到了這個苗頭。我記得有一天走進辦公室，看到我們的資料科學家 Brendan 的電腦上開著 Claude Code，螢幕上就掛著一個終端機。我整個人嚇傻了，我問他：「Brendan，你到底在幹嘛？你居然搞懂了怎麼開終端機？」要知道終端機是極其硬核的工程產物，甚至連很多專業工程師自己都抗拒用終端機，因為那是跟電腦互動最低階、最硬碰硬的方式。
但他不僅學會了開終端機，還自己下載安裝了 Node.js、下載了 Claude Code，然後直接在終端機裡做 SQL 數據分析。這太瘋狂了。而到了下一週，公司裡所有的資料科學家全都在做一模一樣的事。
因此，當你看到使用者開始以這種出乎意料的方式挪用產品，藉此達成對他們而言極具價值的目的時，這就是一個強烈無比的訊號——告訴你應該直接為他們構建出一款專屬產品，而且大家一定會熱烈歡迎。
模型本身就是產品
我認為在當下的 AI 時代，潛在需求還延伸出了另一個極為有趣的第二維度。傳統上的維度是：觀察「人類」在做什麼，讓他們的操作變得更容易、賦予他們更強的能力；而過去六個月我在觀察到的現代維度則是：去觀察「模型」試圖想要做什麼，並讓模型更容易做到它想做的事。
在我們最初開始構建 Claude Code 時，很多人在設計大語言模型（LLM）應用程式時的慣常思維，是把模型死死地鎖在一個框架盒子裡。他們的思維是：「這是我要構建的應用程式架構，這是我要完成的任務，模型你只要負責裡面的這一個特定元件；這是你與 API、工具互動的既定路徑。」
而在 Claude Code 上，我們將這個邏輯徹底顛倒了過來。我們認為「模型本身就是產品」。我們要把它徹底釋放出來，只在周圍保留最極簡的鷹架結構（Minimal Scaffolding），給予它一套最精簡的基礎工具，讓模型自己去決定要調用哪些工具、自己決定工具執行的順序等等。
這很大程度上也是基於「模型本身渴望做什麼」的潛在需求。在 AI 研究領域，我們將這稱為「符合分佈（On-distribution）」。你想知道模型自然而然想要走向何方；而在產品領域，潛在需求其實就是將完全相同的哲學套用在模型身上。
Cowork 為什麼只花 10 天
Lenny Rachitsky： 你剛才提到了 Cowork。我看到你在它最初發布時曾提到，你們團隊只花了 10 天就打造出來了。這太不可思議了。它一推出後，短時間內就有數百萬人使用。10 天之內打造出這種規模的產品——除了「我們就是用 Claude Code 把它寫出來的」之外，這背後還有什麼故事嗎？
Boris Cherny： 這滿有意思的。正如我所說，Claude Code 當初剛發布時並不是一砲而紅，它是隨著時間推移才逐漸爆發的，中間經歷了幾個轉折點。一個轉折點是 Opus 4 的推出，帶來了極大的反彈增長；接著在十一月又迎來了一次暴增，此後增長曲線一天比一天陡峭。但在最初的幾個月裡它並不算大受歡迎，很多人試用了卻不知道該怎麼用，大家不明白它的用途，當時的模型也還不夠強大。
但 Cowork 在我們發布的當下就立刻引爆了，速度遠快於早期的 Claude Code。我認為絕大部分的功勞坦白說要歸功於 Felix、Sam、Jenny 以及負責構建它的團隊，這是一支無比強大的團隊。
同樣地，Cowork 的誕生完全來自我們剛才聊到的「潛在需求」。我們看到大家開始把 Claude Code 拿去處理各種非技術任務，我們就一直在苦思該怎麼做。好幾個月裡團隊都在探索，嘗試了各種不同的方向。最後有人提議：「好吧，如果我們直接把 Claude Code 塞進桌面端應用程式裡呢？」這本質上就是最終奏效的解法。
於是，在短短 10 天的時間裡，他們全盤使用 Claude Code 來構建它。
Cowork 內部其實內建了一套非常精密的安全性系統，本質上就是各種安全護欄（Guardrails），確保模型做出正確的舉動、不至於脫軌失控。例如我們隨軟體附帶發行了一整個完整的虛擬機器（Virtual Machine），而所有的這些程式碼，全部都是由 Claude Code 撰寫出來的。我們需要做的事情，就只是思考：「好，我們該如何為非工程師的使用者把它打造得更安全、更具自我引導性？」
這項專案全靠 Claude Code 實現，只花了大概 10 天。我們很早就把它推出了，當時它還相當粗糙，現在在許多細節上也依然顯得粗糙。但這正是我們學習的方式——無論是在產品層面還是安全層面上。我們必須比自認為成熟的時間點更早將東西推出去，這樣才能收集到反饋、才能和真實使用者對話、理解大眾的需求，進而指引產品未來的演進方向。
Lenny Rachitsky： 這點真的非常耐人尋味且獨特。過去在軟體界一直有「儘早發布、向使用者學習、獲取反饋、持續迭代」的說法；但現在多了一個非常特殊的維度——就連創造者自己都很難預先知曉 AI 究竟具備什麼樣的潛能、人們會如何嘗試使用它。這成為了儘早發布的一項全新理由，正如你所說，能幫助你挖掘出那些連你們自己都未曾預料到的「潛在需求」，看看大眾究竟會拿它來做些什麼。
Anthropic 的三層安全評估
Boris Cherny： 是的。而且對身為安全實驗室的 Anthropic 來說，另一個至關重要的維度就是「安全」。
當你在思考模型安全時，有很多不同層次的研究方式。最底層的是「對齊（Alignment）」與「機械可解釋性（Mechanistic Interpretability）」。當我們訓練模型時，我們必須確保它是安全的。我們目前已經擁有了相當精密的技術，能去理解神經元內部正在發生什麼事，並追蹤它的路徑。舉例來說，如果存在一個與「欺瞞（Deception）」相關的神經元，我們現在正逐步達到能監控它、並察覺它何時被激活的水平。
這就是底層的對齊與機械可解釋性。
第二層則是「評估（Evals）」。這基本上是在實驗室環境下進行的——模型被放在培養皿中接受研究，你把它放進各種人工合成的情境中，然後觀察：「模型，在這種狀況下你會怎麼做？你的行為是否正確？是否與人類價值對齊？是否安全？」
而第三層，則是觀察模型在「真實野外環境（In the wild）」中的表現。隨著模型變得越來越複雜精密，這一層變得極為關鍵。因為一個模型在前兩層可能表現得非常良好，但在第三層的現實環境中卻可能不盡如人意。
我們之所以很早就發布 Claude Code，正是因為我們想研究它的安全性。在正式發布前，我們其實已經在 Anthropic 內部使用了大概四、五個月，因為我們當時並不確定——這是當時整個科技界推出的第一個大型 Agent，也絕對是第一個被廣泛使用的主流編程 Agent。我們無法預先確認它是否足夠安全，因此我們必須在內部深入研究很長一段時間，直到感到安心為止。即使在發布之後，我們在對齊與安全領域學到的諸多經驗，也持續被反饋回模型本身與產品設計中。
對於 Cowork 來說也是同樣的道理。模型被置於一個全新的場景中，執行的不再是單純的工程任務，而是一個能代表你採取行動的代理人。它在對齊指標上表現良好、在實驗室評估中表現優秀、在內部試用中運作順利、在少數種子客戶的測試中也表現極佳。現在我們必須確保它在真實世界中同樣是安全的。
這就是為什麼我們選擇較早推出、為什麼我們將其標註為「研究預覽版（Research Preview）」。它一直在持續改進，而這也是確保模型長期保持對齊、始終朝正確方向行事的唯一途徑。
機械可解釋性與神經元的「疊加性」
Lenny Rachitsky： 你身處的領域實在太不可思議了。一方面面臨著極其瘋狂的競爭節奏與速度，另一方面又伴隨著一種戒慎恐懼——擔心萬一「神明脫逃」可能會造成災難。在兩者之間取得平衡必定充滿挑戰。
我剛才聽到了你們運作的三個層次：觀察模型的內部思考與神經元運作、設計評估測試來檢驗它是否做出不良行為、以及儘早發布至現實中檢驗。我之前很少聽人深入聊過第一點，那太酷了——你們居然有一套可觀測性工具，能直接窺探模型的大腦內部，看它是如何思考的、思路正走向何方？
Boris Cherny： 是的。你未來某個時候應該邀請 Chris Olah 來上你的播客節目，他是這個領域的全球頂尖專家。他開創了這個被我們稱為「機械可解釋性」的學科。
其核心概念在於：說到底，你的大腦是什麼？它就是一堆相互連結的神經元。在人類或動物大腦中，你可以從這種機械層面去研究神經元的活動。令人驚訝的是，這套理論很大程度上也能套用在 AI 模型身上。雖然模型內部的神經元和生物神經元並不相同，但在許多行為模式上表現得驚人相似。
因此，我們能夠深入了解這些神經元的運作原理——某個網路層或某個特定神經元究竟對應到什麼概念、特定的概念是如何被編碼的、模型是如何進行長遠規劃與前瞻思考的。在很久以前，我們甚至不確定模型到底只是單純在預測下一個 Token，還是內部其實正在進行更深層次的信息處理。而現在我認為已經有極其強烈的證據顯示，它確實正在進行更深層的認知處理。
而且模型用來處理這些概念的內部結構已經高度複雜。隨著模型架構越來越龐大，不再是「單一神經元對應單一概念」那麼簡單，一個神經元可能同時對應十幾種不同的概念；而當它與其他神經元共同被激活時，這種現象被稱為「疊加性（Superposition）」，兩者交織在一起便表徵出更為複雜高階的概念。這是我們每天都在不斷學習的全新領域。
安全工具也要「向上競賽」
在 Anthropic，當我們思考這個領域的演進時，「以安全且造福世界的方式推進」就是我們存在的唯一理由，這也是每個人加入 Anthropic 的初衷。
正因如此，我們的許多研究成果都是開源發布的，我們發表了大量的論文，非常毫無保留地公開探討這些發現，為的就是啟發其他同樣在研發前沿模型的實驗室，讓大家都能以安全的方式前行。這也是我們在 Claude Code 上貫徹的作法，我們在內部稱之為「向上競賽（Race to the top）」。
舉例來說，在 Claude Code 發布時，我們推出了一個開源沙盒（Sandbox）。這是一個能讓 Agent 在其中運行的隔離環境，確保劃定嚴格的安全邊界，防止 Agent 隨意存取你系統上的所有檔案與機密。我們把這套沙盒完全開源，而且它能相容於任何第三方的 Agent，而不僅僅限於 Claude Code。因為我們希望降低門檻，讓其他人也能輕鬆建立相同的防護。這就是「向上競賽」的原則——我們希望確保這項技術能走向光明面，而這就是我們手中最有力的槓桿。
Lenny Rachitsky： 太棒了，我一定會把這個建議記下來，之後找機會深入探討。