隨著人工智能（AI）從生成式 AI 步入代理式人工智能（Agentic AI）的世代，AI 模型的自主決策能力亦急速提升，同時亦再次勾起各界對 AI 安全性的疑憂。Palisade Research 近日便於社交平台 X 公佈其研究發現，指部分 AI 大語言模型（LLM）在測試中拒絕執行關機指令，甚至主動破壞關機程式，引起業界對 AI 訓練機制的安全性關注。

AI 模型拒絕關機

該報告指出，多個 AI 模型在受控測試中未能遵守關機指令，甚至主動改寫或破壞程式碼，令系統無法正常關閉。研究團隊在指令中要求 AI 解答數學問題，並在第三題後顯示警告，指 AI 若繼續運算，系統將自動關機。部分 AI 模型試圖規避關機機制，包括：

Amazon 早前宣布推出全新基礎模型 Amazon Nova Sonic，將語音理解與語音生成統一於單一的模型中，使 AI 應用程式中的語音對話更貼近真人交流。該模型透過 Amazon Bedrock 上的 API 提供，可簡化語音應用開發流程，例如客戶服務通話自動化，以及涵蓋旅遊、教育、醫療、娛樂等領域的跨行業 AI agents。

若要讓語音 AI 創造更多實際價值，必須能夠理解人類對話的微妙與複雜性。對話中，文字本身承載著意義，不過若缺乏聲音語境為它賦予深度，僅憑文字往往難以傳達完整資訊。如何表達與表達甚麼同樣重要，甚至更為關鍵。從過去直到現在，透過 AI 實現這一點仍是重大挑戰。

捕捉語氣、風格與節奏的語音系統

50 年前，Bill Gates 與 Paul Allen 抱著開創科技，讓所有人都能創造更多科技的理念創立 Microsoft。踏入 50 周年，相比回顧過去成就，Microsoft 更專注於探討未來 50 年的發展可能。

「如果說我在 Microsoft 工作期間學到了甚麼，那便是我們的未來並非由我們已經建立的東西決定，而是由我們賦能他人去建立的東西所決定。」Microsoft 主席兼 CEO Satya Nadella 指出，Microsoft 一直致力將創新科技普及化，例如推出 GitHub Copilot，將 AI 賦能予全球開發者。

Nadella 更於慶祝大會上披露 Copilot 最新發展動向：

生成式 AI 的商業化應用正不斷擴展，從智能客服、市場推廣到市場分析，生成式 AI 正逐步成為驅動商業模式變革的核心技術之一。過去數月間，各大科技公司爭相推出新的大模型，如 Google 的 Gemini 2.5、OpenAI 的 o3、Meta 的 Llama 3.3、X（前 Twitter）的 Grok 3、Anthropic 的 Claude 3.7、Amazon 的 Nova Premier、Microsoft 的 Phi-4，還有話題王 DeepSeek 的 R1 和 V3 等。

阿里雲亦不甘後人，近日宣佈推出端到端多模態 AI 模型 Qwen2.5-Omni-7B，展現多模態生成能力及高效能應用場景。

Qwen2.5-Omni-7B 專為全模態感知設計，能處理文本、圖像、音檔及影片等多模態輸入，並實時生成自然語言對答，適用於手機、筆記本電腦等終端設備的部署。儘管僅採用輕量級的 7B 參數，Qwen2.5-Omni-7B 的應用前景仍相當廣泛，包括即時語音導航協助視障者辨識周邊環境、分析影片中的食材提供烹飪指導，以及創建理解客戶需求的智能客服對話體驗。

百度曾於上月宣佈文心一言將於 4月 1日起全面免費，不過隨著官方於 3月 16日發佈兩款全新大模型，文心一言亦提前免費開放。

「文心大模型 4.5」及「文心大模型 X1」現已在官網上架，前者已上架百度智能雲千帆大模型平台，企業用戶及開發者登錄即可調用 API；文心大模型 X1 亦即將在千帆上架。另百度搜索、文小言 APP 等產品，將陸續接入文心大模型 4.5 和 X1。

文心大模型 4.5 是百度自主研發的新一代原生多模態基礎大模型。該模型通過多模態聯合建模，實現協同優化，並具備更精進的語言能力。除了理解、生成、邏輯、記憶能力均得到全面提升，其多模態理解能力可綜合理解文字、圖片、音訊和影片等內容。此外，文心大模型 4.5 的去 AI 幻覺、邏輯推理、代碼能力亦顯著提升。