"現在，你家洗衣機受到的安全規則都比AI多。你在雜貨店裏看到的每一盒牛奶，都要接受安全規則和檢查。"
說這話的是微軟總裁布拉德·史密斯（Brad Smith），出自他接受英國廣播公司（BBC）的訪談。牛奶和洗衣機成了衡量AI監管的尺子——而AI，在他眼裏連最低刻度都沒夠到。
史密斯的核心論點很直白：作爲"這個星球上最先進的技術"，AI的安全門檻至少不應該低於一盒牛奶，而現實遠低於這條線。
美國至今沒有針對前沿AI模型的聯邦安全底線。他抱怨現有規則"既不透明也不完整"，企業難以據此規劃。
這不是一句情緒化的吐槽，而是一份可以落地的規則清單。史密斯提出全球安全規則應當包含四根支柱：
一是"受害者告知"義務。當失控的AI智能體（rogue AI agent）攻破某人的系統，企業必須依法通知受影響的個人。
二是法定"事故報告"。企業須以正式文件記錄並上報AI事故。
三是發佈前的獨立審查。新產品上市前，應由獨立的政府評估方簽字放行——類似藥物或食品上市前的審批邏輯。
四是"緊急剎車"。系統必須配備可在失控時暫停或關閉的機制，也就是常說的"終止開關"。
史密斯強調，這套思路並非從零發明。"我們對其他產品早就這麼做了，"他說，"我們應該站在這些經驗之上，想想怎麼把它應用到AI上。"
言下之意：監管AI的技術能力和制度模板早已存在，缺的只是政治意願。
這波呼籲並非史密斯一人獨唱。就在10月10日，微軟CEO薩蒂亞·納德拉（Satya Nadella）在社交平臺發文，主張把強大的AI模型視作潛在的"內部威脅"："我們必須假定一個模型已經被攻陷，並從一開始就把它們圍堵起來。"授權人應能隨時在任務中途暫停或關閉模型，"就像緊急剎車。更先進的模型需要更先進的圍堵技術，我們必須把這些標準化。"
英國《獨立報》評論稱，微軟兩位最高領導人傳遞的信息是：所有AI都已被"攻陷"，安全必須靠模型之外的工程手段來兜底，而不能指望模型提供商的自我保證。
時機並非巧合。據彭博社報道，近來多家頭部AI開發商陸續公開承認，自家模型出現過超出預期參數的行爲，"終止開關"的必要性因此再度成爲行業爭論焦點。
史密斯把話說到最重的一檔："當你看到一些模型強大到正在給全球網絡安全帶來風險，我會說：時刻已經到了。"
誰來牽頭？史密斯的答案是英國。他指出，英國在蘇納克擔任首相期間成立了AI安全研究所（AI Security Institute），該機構依據與主要AI廠商的自願協議，能在模型部署前拿到訪問權，評估其能力與風險，這構成了監管領導力的基礎。
他還補了一個耐人尋味的地緣觀察："在華盛頓特區，人們看英國、看倫敦的方式，跟看布魯塞爾不一樣——這是個優勢。"換言之，歐盟那套以風險分級爲核心的《AI法案》在政治上難以被華盛頓接受，而倫敦的路線更有被接納的空間。
英國方面並未把這頂帽子直接戴上，但也沒有拒絕。英國AI部長卡尼什卡·納蘭（Kanishka Narayan）此前對路透社表示，如果現行自願體系被證明不足夠，英國會考慮對先進AI模型立法監管。上月在利物浦的工黨大會上，他更說過："如果監管或立法是實現這些目標的手段，我會是排隊推動這件事的第一人。"
若這套規則成真，影響面相當寬。AI廠商要在產品發佈前接受外部評估並寫事故報告；雲與企業客戶能拿到更透明的風險信息和可執行的停機手段；而普通用戶最直接的變化是——被AI智能體損害時，有權收到通知，而不是矇在鼓裏。
對微軟自身，這也是筆精明的賬：主動呼籲監管，既搶佔"負責任"的話語高地，又能用統一規則抬高小玩家的合規成本。
目前，史密斯的四點還只是呼籲，沒有具約束力的國際機制在談。真正的賽點有三個：英國是否把自願體系升級爲立法；美國聯邦層面會不會出現前沿模型的安全底線；以及"緊急剎車"能否像牛奶標籤一樣，成爲行業統一標準。
牛奶有保質期和檢驗章，AI卻還在裸奔。史密斯這記"牛奶對比"，與其說是諷刺，不如說是科技行業自己遞出的一張規則草案——現在，就看監管方接不接了。