當今世界中，民族國家是政治秩序的核心單位。本質上，它向公民提出一個簡單又很有說服力的協議：在一個主權、領土國家中，集權不但可行，而且好處遠遠超過風險。歷史證明，讓國家全權處理暴力——賦予它執法及發展軍力的自由——是確保和平與繁榮最可靠的方式。此外，一個治理良好的國家是經濟成長、安全、福祉的關鍵基礎。過去五百年來，把權力集中於單一的權威，對於維護和平以及激發數十億人的創造潛力至關重要。那鼓勵百姓努力工作、追求教育、發明與貿易，從而推動進步。

因此，即使民族國家變得更強大，並與日常生活緊密相連，民族國家的大協議在於，權力的集中不僅可以促進和平與繁榮；眾人還可以利用一系列的制衡、再分配、制度形式，來駕馭這種權力。為了維持這點，我們必須在兩種極端之間拿捏微妙的平衡：一方面，避免最反烏托邦式的過度中央集權；另一方面，接受定期的干預以維持秩序。然而，世人常把那種微妙的平衡視為理所當然。

國家的承諾

如今，即將到來的技術浪潮比以往更有可能破壞這種脆弱的平衡。簡而言之，大協議正在瓦解，技術是此歷史性轉變的關鍵驅動力。

由於民族國家負責管理及規範技術的影響，以確保人民的最大利益，它們對即將到來的變化做了多大的準備？如果國家無法協調這股浪潮的駕馭，無法確保它為公民帶來淨利益，那麼在中長期的未來，人類還有什麼其他的選擇？

在《控制邊緣》的PART I與PRAT II提到，一波強大的技術浪潮即將席捲這個世界。如今時候到了，讓我們一起思考這背後的意涵，一窺浪潮席捲後的世界樣貌。

在《控制邊緣》的PART III，我們將探討這些技術對民族國家的深遠影響，尤其是對自由民主國家的影響。裂痕已經形成。政治秩序促進了財富成長，提高了生活水準，助長了教育、科學、技術的發展，並使世界趨向和平。但現在政治秩序正承受著巨大的壓力，部分原因在於它促成的力量破壞了穩定。它的全面影響既廣泛又難以理解，但我認為，那顯示未來駕馭的挑戰將比以往更加困難，本世紀的巨大困境變得無可避免。

權力成本驟降

權力是「以特定方式做某事或採取行動的能力……指引或影響他人行為或事件進程的能力」。權力是支撐文明的動能，是國家的基石與核心要素。各種形式的權力塑造著生活的一切，而且它也即將出現轉變。技術最終是政治性的，因為技術是一種權力形式。或許新技術浪潮最重要的特徵是，它將把權力的取得民主化。誠如《控制邊緣》PART II所述，它將使人能夠在現實世界中做事。我是這樣想的：就像處理及傳播資訊的成本在消費者網路時代大幅下降一樣，在下一波浪潮中，實際去做某事、採取行動、行使權力的成本也將大幅下降。雖然知識很強大，但做事的影響力遠比知識更大。

任何人都可以製作專家級的影片、圖像、文本內容，而不止是讀取內容。AI不僅能幫你找到發表伴郎感言所需的資訊，還能幫你寫講稿，而且是以前所未有的規模執行。機器人不再只會製造汽車及整理倉庫，只要有一點時間與想像力，每個喜歡在車庫裡敲敲打打的人都可以使用機器人來當幫手。過去的浪潮使我們能夠為DNA定序或讀取DNA；即將到來的浪潮將讓DNA合成遍地開花。

今天無論權力在哪裡，它都將會放大。任何有目標的人——也就是說每個人——在實現目標的過程中，都會得到很大的協助。修改商業策略、為在地社區舉辦社交活動，或占領敵方領土都會變得更容易。成立一家航空公司或停用一支機隊，也變得更容易達成。無論是商業、宗教、文化、軍事，民主還是專制，你能想到的任一種動機，都將因為成本更低的權力唾手可得而顯著增強。

如今，無論你再怎麼富有，你就是買不到比數十億人買得起的手機還要強大的智慧型手機。這是文明的非凡成就，卻經常遭到忽視。在接下來的十年裡，ACI的取得也會依循同樣的趨勢。數十億人很快就會有大致平等的機會，接觸到最好的律師、醫生、策略家、設計師、教練、行政助理、談判者等等。每個人都會有一支專屬的世界級團隊，在身邊支援。

這將是人類歷史上最強大、最迅速的財富與繁榮加速器，但也是最混亂的一個。如果每個人都能取得更多的能力，顯然存心不良的人也在其中。隨著技術的發展速度比防禦措施還快，從墨西哥販毒集團到北韓駭客等不良分子都得到了一劑強心針。技術全民化的意涵，就是風險也勢必跟著全民化。

我們即將跨過人類歷史上的重要關口。這是民族國家未來十年必須面對的問題。在本章中，我們將逐一探討即將到來的浪潮放大脆弱性的一些關鍵例子。首先，我們將更深入了解近期的風險：不良分子將如何發動新的攻擊行動。這種襲擊可能致命、可能遍布各個領域，此外，即使有人展開大規模的攻擊，也可以無罪脫身。

帶槍的機器人：攻擊主力

2020年11月，穆赫辛．法克里扎德（Mohsen Fakhrizadeh）是伊朗核武計劃的首席科學家與關鍵人物。他愛國、敬業、經驗豐富，是伊朗對手的首要目標。他深知自己有人身風險，在伊朗安全部門的協助下，隱藏了自己的行蹤與動向。

法克里扎德的車子穿插在戒備森嚴的車隊裡，行駛在一條塵土飛揚的道路上，開往他位於裏海附近的鄉間別墅。突然間，他的座車戛然而止，遭到一連串子彈擊中。法克里扎德受了傷，跌跌撞撞地從車裡爬出來，慘遭第二次機關槍掃射，中彈身亡。他的保鏢是伊朗革命衛隊（Revolutionary Guard）的成員，他們忙著搞清楚究竟發生了什麼事，槍手在哪裡？幾分鐘後，爆炸發生了，附近的一輛皮卡車起火燃燒。

然而，那輛車上，除了一把槍以外，裡頭空無一物。那天地面上毫無刺客的蹤影。套用《紐約時報》（New York Times）一篇調查報導的說法，這是「一種高科技、電腦化神槍手的首次測試，這個神槍手配備了AI與多個攝影鏡頭，透過衛星操作，能夠每分鐘發射六百發子彈」。292它安裝在一輛裝有攝影機、看似無害的皮卡車上，車子刻意停靠在那附近。那是以色列特務組裝的一種機器人武器。有人授權這次襲擊，但AI負責自動調整機關槍的瞄準目標。它只打了十五發子彈，不到一分鐘，就殺死了伊朗最受矚目、受到最嚴密保護的人之一。至於後來的爆炸，不過是企圖湮滅證據的失敗之舉。

法克里扎德遭到暗殺的事件預示著未來的狀況。更先進的武裝機器人將進一步降低施展暴力的障礙。網路上很容易找到最新一代機器人的影片，例如Atlas、BigDog。影片中有粗壯、長相奇怪的人形機器人，以及像狗一樣的小機器人，在障礙賽道上蹦蹦跳跳。奇怪的是，它們看起來不太平衡，卻似乎永遠不會跌倒。它們以不可思議的動作穿過複雜的地貌，看似笨重的框架永遠不會倒下。它們會後空翻、跳躍、旋轉、變戲法。要是你推倒它們，它們會冷靜又若無其事地站起來，而且準備好一次又一次重複之前的動作，令人毛骨悚然。

現在想像一下配有臉部辨識、DNA定序等功能，以及自動武器的機器人。未來機器人的外型可能不是蹦蹦跳跳的機器狗。它們在進一步縮小後，可能只有鳥或蜜蜂的大小，配備著小型槍支或一小瓶炭疽桿菌。任何想要擁有它們的人可能很快就能取得。新技術萬一落入不良分子的手中，就是這種光景。

監管是不夠的

儘管面臨不利的因素，但監管先進技術的措施的確有必要，而且目前有愈來愈多的趨勢。最有雄心的立法可能是歐盟於2021年首次提出的《人工智慧法案》（AI Act）。截至2023年撰寫本書之際，該法案正經歷正式立法的漫長程序。一旦立法通過，AI的研究與部署將根據風險分類。技術若有造成直接傷害的「不可接受風險」，該技術將遭到禁止。AI若影響基本人權或基礎設施、公共交通、健康或福利等關鍵系統，則將被歸類為「高風險」，並受到更嚴格的監督與問責。高風險AI必須「透明、安全、受人類控制，而且有妥善的記錄」。

然而，該法案雖是目前為止全球最先進、最有雄心與遠見的監管嘗試，但也顯示了監管的內在問題。它受到來自各方的攻擊，有的說它管太多，有的說它管得不夠。一些人認為，它過於關注未來導向的新興風險，試圖監管一些甚至還不存在的東西。另一些人則認為，它的遠見不夠。有些人擔心，它對大型科技公司過於寬鬆，因為這些公司在起草的過程中扮演重要的角色，導致條款避重就輕。也有人認為它管太多，將阻礙歐盟的研究與創新，可能損害就業與稅收。

多數的監管都得在相互競爭的利益之間拿捏平衡。但是，很少領域像先進技術這樣，需要解決如此廣泛傳播、對經濟如此關鍵、卻又發展如此迅速的問題。所有的喧鬧與混亂都清楚顯示，任何形式的監管有多麼困難、多麼複雜，尤其是在變化加速的情況下。而且，正因為如此，監管幾乎一定會有疏漏，無法有效駕馭。

想要管理超進化又全能的通用技術，挑戰性極高。想想汽機車的運輸是怎麼監管的，它沒有單一的監管機構，也不是只有幾條法律而已。我們有交通、道路、停車、安全帶、排放、駕訓等方面的規定。這些規定不僅來自國家立法機構，也來自地方政府、公路機構、發布指導原則的交通部、牌照機關、環保當局。它不僅涉及立法者，也涉及警察、交通監理者、汽車公司、機械師、城市規劃者、保險公司等等。

複雜的法規經過幾十年的改善，道路與車輛變得愈來愈安全，愈來愈有序，機動車輛也得以發展普及。然而，每年仍有一百三十五萬人死於交通事故。監管或許可以減少負面影響，但無法消除交通事故、汙染或氾濫等不良後果。考量到機動車輛所帶來的效益後，我們已經認定，那些缺點對人類來說是可接受的成本。這裡的「我們」一詞非常重要，監管不光只依賴新法律的通過，也涉及規範、所有權的結構、法規遵循與誠信的不成文守則、仲裁程式、合約執行、監督機制。這一切都需要整合起來，也需要社會大眾接受。

這些都需要時間，但我們沒有時間。對於即將到來的浪潮，我們沒有數十年的時間讓無數的組織制定策略，得出適切的價值觀與最佳的實務做法。先進科技迫切需要迅速又正確的監管。此外，這些前所未有的技術如此廣泛，我們也不清楚該怎麼管理。監管合成生物，究竟是在監管食品、藥品、工業工具、學術研究，還是同時監管這些行業？哪些機構應該對什麼項目負責？這一切要如何整合在一起？哪些行為者對供應鏈的哪些部分負有責任？光是一個嚴重的監管疏失，後果也可能不堪設想。然而，現在連決定由哪個機構負責，都像走在地雷區一樣困難。

控制邊緣