民主与机器：半个世纪前被忽视的警告

今天，很多人一边刷着手机，一边担心机器人会抢走工作，算法会不会控制我们的生活。其实，这种担心并不新鲜。半个多世纪前，当计算机刚从军事实验室走进办公室时，就有一群人预见到了今天的一切，并且发出了一连串警告。可是，几乎没有谁认真听过。

那是1950到1980年代，计算机越来越小、越来越快、越来越便宜，开始参与商业、医疗，甚至政治。日本社会学家米田米二（Yoneji Masuda）在1981年提出，人类未来要么走向一种‘computopia’，将消除所有阶级和国家差别，并实现‘人与自然和谐共生的共生关系’；要么走向一种‘automated state’，即‘由机器治理的政府’。他还指出，无论哪条路径，人类都已‘忽视了与自然共存的需要，而对自然的影响却变得无法估量’。

更具体的预言来自1958年。纽约广告人爱德华·格林菲尔德（Edward L Greenfield）和麻省理工学院政治学家伊瑟尔·德·索拉·普尔（Ithiel de Sola Pool）提出用机器预测和影响投票行为。他们计划把选举结果、民意调查和人口普查数据做成‘数百上千张穿孔卡片’，建立一个‘信息库’，用来按类型分类选民、按议题分类观点，并模拟整个美国选民。1959年，他们与IBM的亚历克斯·伯恩斯坦（Alex Bernstein）合伙成立了Simulmatics公司。他们称‘simulmatics’意为‘人类智能的自动化模拟’，并相信自己发明了‘社会科学界的原子弹’。第一个客户是民主党全国委员会。1959年，民主党全国委员会雇用Simulmatics运行人工选民模拟，告诉党派提名人该对谁、说什么、何时说。1960年，肯尼迪竞选团队也雇用了他们，在IBM 704计算机上运行预测。肯尼迪胜选后，多家媒体将Simulmatics称为他的‘秘密武器’。

但也有人感到不安。历史学家阿瑟·施莱辛格（Arthur Schlesinger）写道：‘我一想到公共领导力竟意味着……一个人不该说话，除非先经机器批准，就不寒而栗。’小说家尤金·伯迪克（Eugene Burdick）在1964年出版小说《480》，描写一家名为‘Simulations Enterprises’的公司暗中操纵美国总统选举。他本人曾被邀请加入Simulmatics公司，但拒绝了。更尖锐的批评来自美国评论家刘易斯·芒福德（Lewis Mumford），他在1966年《机器的神话》中警告，‘cybernetic intelligence’（控制论智能）的‘自动运行’将使人类变成‘被动、无目的、被机器驯化的动物’；他还指出，认为‘机器决定历史进程’的观念是一种‘对整个人类发展全过程的根本误读’。

后来的事我们大概都清楚：信用卡交易、汽车租赁、图书馆借阅记录，都被存进计算机文件，机器越连越密，不再只是回答问题的工具。那些早期警告，在今天听起来格外刺耳。为什么当时没有人停下来听一听？这或许是我们现在最该问的问题。