来源：彭博社

美国情报机构正在努力应对一项艰巨的新挑战：要让人工智能AI对美国间谍来说安全可靠。

美国国家情报总监办公室的一个部门正在利用各公司和大学来帮助利用快速发展的AI技术，助力应对中国等全球竞争对手。其挑战在于确保它不会对国家的最高机密打开后门或生成虚假数据。

“情报界希望利用现有的大语言模型，但有很多未知数。”管理国家情报总监办公室其中一个项目Bengal的数据科学家Tim McKinnon说道，“最终目标是能够与一个值得信赖的模型合作。”

美国军队和情报界希望利用AI的强大功能，并和中国展开较量，聚焦于可靠性和安全性是其努力方向。随着政府及其承包商拥抱这种新兴技术，华盛顿地区AI有关招聘大增。最紧迫的担忧集中在大型语言模型上。

“情报界对人工智能抱有健康的怀疑态度和一定程度的热情。”战略与国际研究中心的情报、国家安全和技术项目主任Emily Harding说，她举例说分析师可以用来处理大量信息，但对当前模型的可靠性表示怀疑。

“这是一种处于最早使用阶段的工具。”她说。

中央情报局首席技术官Nand Mulchandani认为，AI可以消化大量内容，并找到人类难以或不可能辨别的模式，从而有潜力提高生产率。他还认为这是与中国情报人员数量优势竞争的一条途径。

“人类很伟大，但很难扩展。”Mulchandani在接受采访时说，“用技术帮助扩展人类是明智的业务措施。”

美国间谍机构已经开始试验自己的AI 项目。彭博新闻社9月份报道，中情局准备推出类似于ChatGPT的工具，让分析师更好地获取开源情报。

McKinnon表示，AI既容易受到内部威胁也容易受到外部干预。这些威胁可能是人类试图诱骗系统泄露机密信息，也就是让模型“越狱”。或者反过来，遭入侵的系统“试图从人类那里刺探它不应该获取的信息”。

McKinnon的Bengal计划已经从一些公司收集了建议，包亚马逊的一家子公司，但他拒绝透露是否与任何特定公司合作。

该项目希望找出处理潜在偏差或有毒输出的方法，从而减轻AI的一些风险。

“目前只有少数模型可以公开使用，但它们会变得更加普遍，而且它们的训练方式可能会有偏差。”McKinnon，“如果模型中毒，我们希望能够缓解这种情况。”