美成立生成式人工智能工作组
近日,美国国防部宣布成立生成式人工智能工作组,又称利马工作组。美国防部称,该工作组将以战略性方式对人工智能技术加以利用,以确保美国防部在维护国家安全的同时,在这一技术领域保持领先优势。
据悉,生成式人工智能是一种人工智能算法。该算法可针对用户需求,利用前期输入的数据和用户提供的相关资料,生成新的输出数据提供给用户。最近很受关注的ChatGPT聊天机器人程序就是该技术的典型应用。美国防部认为,大型语言模型等生成式人工智能技术,在全球范围内的影响力正不断扩大,美军迫切需要提高生成式人工智能模型的速度和交互能力等,以提高任务效率。
据悉,利马工作组主要职责是评估、利用和提升生成式人工智能技术能力,并通过生成式人工智能模型,帮助美军提升在作战能力、军事管理、卫生健康、战备及政策等领域的行动能力。
负责指导利马工作组建立的美国防部副部长凯瑟琳·希克斯称:“利马工作组的成立凸显了国防部对引领人工智能创新的决心。我们将在确保国家安全、尽量降低风险的前提下,整合生成式人工智能技术。”
生成式人工智能技术可根据已有数据生成新的数据。由于大型语言模型的数据来源主要基于互联网的数据语料库,因此,它们有时会使用虚假信息。对此,美国防部官员表示担忧。美国防部数字和人工智能负责人克雷格·马泰尔称:“生成式人工智能技术应用于军事领域的风险过高。如果它在帮助士兵处理紧急情况时使用虚假信息,那将是致命的。我们需要输出的数据信息至少达到99.999%的准确率。”
基于上述原因,马泰尔表示,美国防部必须尽力寻求更优的生成式人工智能模型,同时制定适当的保护措施,以减少可能因数据来源、数据管理等问题而产生的国家安全风险。利马工作组任务指挥官曼纽尔·泽维尔·卢戈对此表示认同,称谨慎选择模型并完善管理是减少相关风险的关键。
马泰尔建议,想要最大限度防止生成式人工智能技术在应用过程中使用虚假信息,应进行大量测试,同时为大型语言模型在不同场合的应用提供可靠保证。他强调,无论何时,生成式人工智能的应用都必须置于人类的监管之下。
希克斯称:“美国防部的当务之急,是探索这项技术的运用前景和潜力。这些能力不仅将开启新的机遇,也将带来新的风险,我们要找到适当的保护措施,将各种风险降至最低。”
关于该技术应用于军事领域可能引发的风险问题,引起了诸多关注。目前的生成式人工智能技术主要用于高效查找目标资料、回答常见提问等,且技术本身存在严重漏洞,有可能被潜在对手利用,借以发动虚假信息战,进行欺骗或网络攻击。当前,包括美国在内的60多个国家签署了一份《行动呼吁书》,倡导在军事领域负责任地使用人工智能技术。
此外,在战略层面上,生成式人工智能技术的军事应用,很可能加剧大国间的竞争,增加战略风险。美国“新美国安全中心”智库在报告中指出:“从短期和中期来看,人工智能技术带来的大部分变化将是渐进、小范围的,但从长期来看,有些变化可能是革命性的、普遍的。为此,一些国家不得不投入大量精力进行研发和探索。”(李学华)
分享让更多人看到
- 评论
- 关注