圖像來源，Getty ImagesArticle InformationAuthor, 劉睿正Role, BBC Global China UnitReporting from, 香港 和 Author, Tony HanRole, BBC Global China Unit Reporting from, 倫敦Published 閱讀時間: 3 分鐘人工智能（AI）發展日新月異，業內一些具影響力的領袖卻嚴厲警告說，要正視AI可能帶來的危機。譬如，Anthropic執行長達裡奧·阿莫迪（Dario Amodei）認為人工智能的發展速度應該放緩，而兩家競爭對手的高層——OpenAI的薩姆·奧特曼（Sam Altman）和埃隆·馬斯克（Elon Musk）——也贊同他的觀點。美國矽谷的一些人士甚至認為，人工智能有朝一日可能會導致人類滅絕。然而，應對這些風險也因兩大人工智能大國中國和美國之間的激烈競爭，而變得複雜。作為戰略競爭對手，中美經常從國家安全和經濟優勢的角度看待人工智能的發展，讓人懷疑兩國是否能夠促成實質合作。「如果國際社會期望美中就這些問題展開對話並達成具有約束力的協議，那麼它這期望會落空，」奧斯陸和平研究所（PRIO）高級研究員伊拉里亞·卡羅扎博士（Ilaria Carrozza）說。「在人類控制下的人工智能」中國為人工智能制定了宏大計劃，設想未來這項技術將融入農業、醫療和軍事等社會和經濟的各個領域。可是，北京長期以來也一直警惕人工智能帶來的風險。Skip 熱讀 and continue reading熱讀美國三年來首次加息 對全球和中國意味著什麼？你敢請病假嗎？背後反映什麼人格特質和職場文化？美國能在外太空部署哪些武器？「贏了就是贏了」？Hyrox北京賽選手失禁奪冠為何引發爭議End of 熱讀早在2017年，政府就表示人工智能可能侵犯隱私、威脅社會穩定和挑戰國際關係準則。此後幾年，中國要求對社群媒體上的人工智能生成內容進行標註，禁止未成年人使用人工智能虛擬伴侶，並禁止使用深度偽造技術傳播假訊息。對此，香港城市大學教授曾敬涵向BBC表示，不像美國的政府機構和政策顧問，中國官方對「人工智能可接受的發展，有相當大的決定權」。曾教授曾參與中美針對人工智能的非正式會談。對於人工智能可能失控的風險，中國國家主席習近平7月在世界人工智能合作組織（WAICO）會議上表示，這項技術必須「始終處於人類控制之下」。WAICO由中國倡議成立，致力於促進國際社會在人工智能治理領域的對話與合作。中國網路監管機構中共中央網絡安全和信息化委員會辦公室（簡稱網信辦）在9月公布《人工智能安全治理框架3.0》，其中表示，須要對人工智能危害「人類生存發展的風險及時採取措施」。可治理的技術？儘管中國官方承認人工智能有可能脫離人類控制，但相較於美國，人工智能是否能夠危及人類存續，在中國，並非相關討論的核心議題。北京認為，這只是政府在制定政策時須要應對的眾多問題之一。曾教授表示：「中國的人工智能治理兼顧多個目標：支持經濟發展、管理技術和社會風險以及維護政治權威。」劉少山博士是深圳市人工智能與機器人研究院的具身智能中心主任，他對此表示贊同：「在中國的討論往往更著重於可控性、濫用和社會後果，而在美國的討論則更多地集中在人工智能失控或人類滅絕等假設性情境上。」圖像來源，Reuters圖像加註文字，中國期望人工智能可在社會各領域中應用，促進經濟增長。雖然中國官員憂心人工智能帶來的風險，但他們也相信，在中國經濟成長放緩之際，人工智能將成為提振經濟的重要動力。譬如，騰訊、阿里巴巴、百度和字節跳動等中國科技巨頭的人工智能模型，正與全球主要競爭對手一較高下。一些領先模型則來自零一萬物、深度求索（DeepSeek）、MiniMax、月之暗面和智譜等新創公司。這些公司都沒有回應BBC的置評請求。劉少山博士向BBC解釋，北京正力求在培育人工智能產業和管控相關風險之間取得平衡。「這與主張停止發展人工智能是兩回事，」他說。「誰贏了人工智能，誰就贏了。」除了國內發展需求，北京也必須考量地緣政治因素。美國總統特朗普（Donald Trump，川普）將人工智能發展描述為一場與中國的高風險競賽。 「我們在人工智能領域領先中國……坦白說，我希望保持這種領先地位，因為誰贏了人工智能，誰就贏了，」他曾說。中國國家安全部長陳一新在9月發表於官方期刊的文章中，也從地緣政治的角度闡述人工智能的發展，稱其為「大國戰略博弈的新賽道」。儘管呼籲放緩人工智能發展的呼聲主要來自美國業界人士而非政府官員，但地緣政治競爭使北京對此類呼籲保持警惕。今年8月，就在阿莫迪發出人工智能風險警告前不久，中國官媒批評Anthropic的聯合創始人將他的公司與美國的地緣政治利益捆綁在一起。中國央視運營的社交媒體帳號「玉淵譚天」發帖批評：「阿莫代伊（阿莫迪）的邏輯已經完成了兩次放大：從『我在做好事』，到『我替你決定』；從『我的國家在做好事』，到『所有不配合的都應該被限制』」。圖像來源，Reuters圖像加註文字，阿莫迪認為，美國在人工智能領域的領先優勢擴大，可以促使中國放慢人工智能發展的步伐。阿莫迪近日呼籲放慢人工智能發展步伐後，再度招致中國官媒批評。官媒特別點名他曾主張阻礙中國在人工智能領域的發展。儘管雙方互信不足，外界仍期待習近平與特朗普本月稍後在美國首都華盛頓舉行的峰會上，能夠就部分議題達成共識。路透社報導，中方官員將人工智能視為峰會的重要議程。對此，PRIO的卡羅札博士則向BBC表示，防範非國家行為者濫用人工智能和人工智能驅動的網絡攻擊威脅關鍵基礎設施等議題，或許能讓中美雙方建立一定程度的共識。然而，針對人工智能的發展步調達成明確協議，恐怕仍遙不可及。她說：「較有可能透過雙邊協商處理的，大概是那些即使達成協議，也不須要驗證執行情況或揭露商業機密的議題。」她並指出，「至於限制任何一方開發人工智能模型速度的措施，美中雙方不太可能達成共識。」本文原以英文撰寫，我們使用了人工智能協助翻譯，並由BBC記者在發佈前進行審核。了解更多關於我們如何使用人工智能的資訊。