近日，美國國防部宣布成立生成式人工智能工作組，又稱利馬工作組。美國防部稱，該工作組將以戰略性方式對人工智能技術加以利用，以確保美國防部在維護國家安全的同時，在這一技術領域保持領先優勢。

據悉，生成式人工智能是一種人工智能算法。該算法可針對用戶需求，利用前期輸入的數據和用戶提供的相關資料，生成新的輸出數據提供給用戶。最近很受關注的ChatGPT聊天機器人程序就是該技術的典型應用。美國防部認為，大型語言模型等生成式人工智能技術，在全球范圍內的影響力正不斷擴大，美軍迫切需要提高生成式人工智能模型的速度和交互能力等，以提高任務效率。

據悉，利馬工作組主要職責是評估、利用和提升生成式人工智能技術能力，並通過生成式人工智能模型，幫助美軍提升在作戰能力、軍事管理、衛生健康、戰備及政策等領域的行動能力。

負責指導利馬工作組建立的美國防部副部長凱瑟琳·希克斯稱：“利馬工作組的成立凸顯了國防部對引領人工智能創新的決心。我們將在確保國家安全、盡量降低風險的前提下，整合生成式人工智能技術。”

生成式人工智能技術可根據已有數據生成新的數據。由於大型語言模型的數據來源主要基於互聯網的數據語料庫，因此，它們有時會使用虛假信息。對此，美國防部官員表示擔憂。美國防部數字和人工智能負責人克雷格·馬泰爾稱：“生成式人工智能技術應用於軍事領域的風險過高。如果它在幫助士兵處理緊急情況時使用虛假信息，那將是致命的。我們需要輸出的數據信息至少達到99.999%的准確率。”

基於上述原因，馬泰爾表示，美國防部必須盡力尋求更優的生成式人工智能模型，同時制定適當的保護措施，以減少可能因數據來源、數據管理等問題而產生的國家安全風險。利馬工作組任務指揮官曼紐爾·澤維爾·盧戈對此表示認同，稱謹慎選擇模型並完善管理是減少相關風險的關鍵。

馬泰爾建議，想要最大限度防止生成式人工智能技術在應用過程中使用虛假信息，應進行大量測試，同時為大型語言模型在不同場合的應用提供可靠保証。他強調，無論何時，生成式人工智能的應用都必須置於人類的監管之下。

希克斯稱：“美國防部的當務之急，是探索這項技術的運用前景和潛力。這些能力不僅將開啟新的機遇，也將帶來新的風險，我們要找到適當的保護措施，將各種風險降至最低。”

關於該技術應用於軍事領域可能引發的風險問題，引起了諸多關注。目前的生成式人工智能技術主要用於高效查找目標資料、回答常見提問等，且技術本身存在嚴重漏洞，有可能被潛在對手利用，借以發動虛假信息戰，進行欺騙或網絡攻擊。當前，包括美國在內的60多個國家簽署了一份《行動呼吁書》，倡導在軍事領域負責任地使用人工智能技術。

此外，在戰略層面上，生成式人工智能技術的軍事應用，很可能加劇大國間的競爭，增加戰略風險。美國“新美國安全中心”智庫在報告中指出：“從短期和中期來看，人工智能技術帶來的大部分變化將是漸進、小范圍的，但從長期來看，有些變化可能是革命性的、普遍的。為此，一些國家不得不投入大量精力進行研發和探索。”（李學華）

分享讓更多人看到