拜登政府周四 (8 日) 表示,200 多家實體將加入新的聯盟,以支援生成式人工智慧 (AI) 的安全開發和部署,其中包括幾家 AI 龍頭企業。
美國商務部長雷蒙多 (Gina Raimondo) 宣布成立美國人工智慧安全研究所聯盟 (AISIC),成員包括 OpenAI、Alphabet (GOOGL.US) 旗下的谷歌、Anthropic 和微軟 (MSFT.US) ,以及 Facebook 母公司 Meta Platforms (META.US) 、蘋果 (AAPL.US) 、亞馬遜 (AMZN.US) 、輝達 (NVDA.US) 、Palantir (PLTR.US) 、英特爾 (INTC.US) 、摩根大通 (JPM.US) 和美國銀行 (BAC.US) 。
雷蒙多在聲明中表示:「美國政府在制訂標準和開發所需的工具以減輕風險和利用 AI 巨大潛力方面,可以發揮重要作用。」
該聯盟還包括 BP (BP.US) 、思科系統 (CSCO.US) 、IBM (IBM.US) 、惠普 (HPQ.US) 、諾斯普格魯曼 (NOC.US) 、萬事達卡 (MA.US) 、高通 (QCOM.US) 、Visa (V.US) 以及主要學術機構和政府機構,將隸屬於美國人工智慧安全研究所 (USAISI)。
該小組的任務是開展拜登總統 10 月 AI 行政命令中提到的優先行動,「包括制訂紅隊指導方針、能力評估、風險管理、安全保障以及對合成內容加浮水印。」
主要 AI 企業去年承諾將 AI 生成的內容添加浮水印,以使技術更安全。紅隊多年來一直在網路安全領域用於識別新風險;該術語源自美國冷戰模擬,其中敵人被稱為「紅隊」。
拜登的命令指示各機構制訂測試標準,並解決相關的化學、生物、放射性、核子和網路安全風險。
去年 12 月,美國商務部表示正在邁出第一步,為 AI 的安全部署和測試編寫關鍵標準和指南。
商務部表示,該聯盟代表最大的測試和評估團隊集合,將專注於為「人工智慧安全的新測量科學」奠定基礎。
生成式 AI 既讓人興奮,也讓人擔心它可能會讓一些工作變得過時、顛覆選舉,並可能取代人類並產生災難性影響。
雖然拜登政府積極尋求保障措施,但國會針對 AI 的立法努力卻陷入停滯。
(美股為即時串流報價; OTC市場股票除外,資料延遲最少15分鐘。)新聞來源 (不包括新聞圖片): 鉅亨網