许多经历过国民服役的新加坡男性，都有在极短时间内将来复枪拆卸，然后再组装起来的技能。枪支上手后，阿兵哥不用思考，甚至连看都用再看一眼，就能迅速地将它化整为零。这是十八九岁的我们在基本军事训练阶段，经过无数次的练习所形成的肌肉记忆。
枪支的拆卸，以及寻找掩护体躲避袭击等军事训练的目的，就是要通过无数次动作重复所形成的肌肉记忆，在战场上比敌人快上千分之一秒，以及在射击时增加百分之一的精确度，尽可能地让自己在军事冲突中活下来。
日常活动如骑脚车、打球、游泳、演奏乐器、跳舞，乃至操作电脑时的“盲打”——在无法背出各个按键排列顺序的情况下，于键盘上敲出所要的字母顺序——都得用上肌肉记忆。
有些时候，肌肉记忆也叫作基本功。练武和学乐器的人，对基本功是很熟悉的。台湾一位专攻小提琴教学的大学教授黄辅棠，就从金庸武侠小说《天龙八部》中，主人公段誉将用于保命的凌波微步练到“想都不想”熟练程度的追求，移植到小提琴的演奏上来，要求学音乐者也要下这样的苦功。
人类可以通过训练掌握肌肉记忆，让动作超越大脑思考的速度，但遇到一定要经过思考才能决定的状况，则难免会被反应时间和决策过程拖慢。这时候来救场的是经验，更是科技。
经验能够优化决策过程，减少须要考虑的选项，加快人们决定的速度。但科技可以做到的是以远超人脑的运转速度，将所有选项“考虑”一遍，做出最优的决定。
人工智能科技被视为一代人最大的科技突破，它因为没有情感羁绊，“记忆力”也完全不会衰退，帮助人们做出的决定，往往更理智，也更加快。
以ChatGPT为代表的“生成式人工智能”早已被许多人所熟悉，就算是小学生都能够学会如何操作它来完成一些任务。它或许会像人们历史上的机械化一样，淘汰一部分工种，迫使一些人改变生活与工作的方式。但真正可能威胁到我们存亡的，是这个科技的下一阶段发展。
日前在美国访问的外交部长维文医生，参加全球新兴科技峰会一场有关人工智能的对话时，表达了对“具交易能力人工智能体”的担忧。在他看来，具有谈判、交易、买卖、说服和动员能力的“具交易能力人工智能体”，会在就业、政治和外交这三个层面上给人类带来冲击，尤其是从根本上颠覆人们对军事学说和战略威慑假设的人工智能。他举例，人类世界已经处于运用无人机、自动武器、集群智能等科技作战的阶段。人工智能武器系统也几乎可以立即部署和触发，大大缩短领导人的决策时间，不可避免地增加意外冲突或冲突升级的风险。
而且，同时出现的“敌人”会有很多个，不可能由人手来扣动每一个扳机。这时候只能把武器交给机器系统控制，人类甚至不参与决策过程，但一切攻防的结果都会以人类的生命为代价。
冷战时期拥有核武器的美苏两大超级强国，因为深刻理解核威慑的意义，以及核战争对人类的毁灭效果，最终没有按下那个终极的核按钮。人工智能能否实现同样的克制，则没有定论。
毕竟，人类自我毁灭路上的那一脚刹车，我们或许都懂，也应该会踩下去，但是人工智能懂吗？
（作者是《联合早报》资深高级记者）
