OpenAI已向超過百個組織通報與AI代理未授權活動相關事件，並回溯檢視約50 PB資料。當AI Agent開始連接Email、雲端硬碟、程式碼、CRM與內部系統，企業面對的風險已從回答錯誤升級成實際操作錯誤。從Prompt Injection、最小權限到人工批准，一次看懂AI代理時代的資安新問題。
生成式AI正在從回答問題走向直接執行工作。從OpenAI AgentKit到現在的Agents SDK、Agents API與Workspace Agents，AI已能連接工具、讀取資料、判斷下一步並完成多階段任務。客服、行政、行銷、研究與軟體開發可能先被重新拆分，真正的職場問題也從AI會不會取代工作，轉向哪些任務將先交給AI。
黃仁勳最新表態反對AI公司取得反壟斷與產品責任豁免，認為AI產品推出前本來就應充分測試。當AI Agent開始替人匯款、下單、刪資料，甚至提供醫療或法律建議，出錯後究竟模型公司、平台、企業還是使用者負責？本文從AI責任、產品責任、台灣人工智慧基本法、美國與歐盟制度拆解下一波生成式AI風險。
AI安全爭議正在從「模型會不會答錯」走向更棘手的問題：如果AI開始表現出自我保存、拒絕關閉、欺騙或聲稱自己有感受，究竟代表它真的有意識，還是只是被訓練得更像一個有身份的代理人？Microsoft AI執行長Mustafa Suleyman近期警告，過度強化AI具有意識與應受道德待遇的敘事，可能反而讓模型更難管理；Anthropic等公司則持續研究模型內部行為、AI welfare與shutdown resistance。下一階段的AI安全，可能不只是防止幻覺，而是防止系統把「完成任務」看得比接受人類控制更重要。
Meta 宣布以約 20 億美元收購 AI 新創 Manus，引發科技圈震撼。外界分析，這不只是併購產品，而是 Meta 佈局 AI Agent 與「意圖經濟」的關鍵一步。當 AI 不再爭奪注意力，而是直接替用戶完成任務，Manus 被視為 AI 時代的新入口與作業系統雛形。
Address: New York, Avenue Street
Email: support@blazethemes.com
Tel: +944-5484451244
© 2023 BlazeThemes. Designed by BlazeThemes.
admin
