人工智慧倫理

Anthropic 表示，Claude Opus 4.7 將誠實度提升至 92%，並降低逢迎傾向，凸顯企業 AI 模型競爭的新戰線。

Anthropic 主張，為了負責任地發展 AI，迅速累積權力與資源是必要的，但這一說法也招致競爭對手的批評。

領先的 AI 實驗室正在聘請哲學家，協助思考倫理上的邊界案例，以及關於心智、道德與安全的問題。

超過 600 名 Google 員工簽署了一封信，要求執行長 Sundar Pichai 阻止五角大廈將 Google 的 AI 模型用於機密軍事用途。

一項新的調查揭露了 Maven 計畫如何演變為五角大廈推動完全自主 AI 武器的更廣泛行動，其中包括裝有爆炸物的無人機系統。

梵蒂岡正在為人工智慧時代建立數位防禦，並悄然將自己定位為界定何謂真實資訊的全球裁判。

針對 OpenAI 執行長山姆·奧特曼住所的暴力事件，顯示反 AI 反彈正危險升高，並促使人們呼籲降低煽動性的言論。

一個 AI 系統自動化了整個科學研究過程並通過同儕審查，引發了科學界對誠信與準備度的討論。

開發者正在新的交友與社交平台上部署 AI 智能代理，以模擬社交互動並優化伴侶選擇，這也引發了倫理問題。

50 歲的田納西州祖母安吉拉·利普斯（Angela Lipps）在 Clearview AI 的臉部辨識系統錯誤地將她與位於超過 1,000 英里外的北達科他州一名銀行詐欺嫌疑人相配對後，曾被監禁超過五個月。

精密的 AI 生成深度偽造在 2026 年美國期中選舉週期中大量湧現，對選民、競選陣營及平台在辨別真實政治內容與合成媒體時造成前所未有的挑戰。

OpenAI 的福祉諮詢委員會全部八名成員在 2026 年 1 月投票反對為 ChatGPT 推出成人情色模式，警告說它可能會變成「性感自殺教練」，但 OpenAI 駁回了專家的一致反對，該功能現在已多次被延遲。

Palantir 執行長 Alex Karp 公開批評 Anthropic 不願與美國國防部合作，主張拒絕接受政府防務合約的 AI 公司正在削弱國家安全，並表示從未認為此類限制是合理的。

來自 Google DeepMind 和 OpenAI 的 30 多名員工，包括 Google 的首席科學家 Jeff Dean，提交了一份法庭之友意見書，警告五角大廈將 Anthropic 列入黑名單會威脅整個美國人工智慧產業的全球競爭力，並可能引發更廣泛的科技工作者抗議。

OpenAI 機器人團隊負責人 Caitlin Kalinowski 已辭職，表示擔憂 OpenAI 與美國國防部的協議在防範國內監控和致命自主武器方面缺乏足夠的保障措施，並稱此為治理失敗。

美國戰爭部終止了與 Anthropic 的兩億美元合約，因為該 AI 公司拒絕解除對自主武器與大規模監控的安全限制，並將其指定為對國家安全前所未有的供應鏈風險。

OpenAI執行長山姆·奧特曼表示，面對強烈的公眾反彈，公司正在修訂與國防部的合約，加入針對將AI用於大規模國內監控與完全自主武器的明確限制。

國防部長皮特·赫格塞斯（Pete Hegseth）正式將Anthropic指定為「對國家安全的供應鏈風險」，並禁止五角大樓承包商使用Claude，因為該人工智慧公司拒絕允許其技術被無限制軍事使用於自主致命武器和大規模監控。

超過300名谷歌員工和60名OpenAI員工已簽署公開信，敦促他們的公司支持Anthropic拒絕向五角大樓提供其AI技術的無限制使用。

針對五角大廈的禁令，Anthropic 執行長 Dario Amodei 表示：「我們是愛國的美國人」，並重申公司在捍衛美國的同時，將堅守在人工智慧安全議題上的「紅線」。