今年是玛丽·雪莱伟大小说《《弗兰肯斯坦》．因此，这是一个问问题的好时机:技术会是可怕的吗?人类能创造出超出我们意图、不受我们控制的设备和平台吗?什么危险的技术可能潜伏在地平线上?如果有的话，我们能做些什么来防止它们造成破坏呢?

这些都是很难回答的问题，我觉得我们需要认真思考这些问题。我不同意那些说没什么好担心的，人们可能提出的任何担忧都只是“技术恐慌”的说法。这些随和的人喜欢指出，每当一项新发明出现在人们面前——印刷机、机械化织布机、报纸、电力，你能想到的——人们总是被吓坏了，然后发现一切都很好。但另一方面也有很多例子。我们只需要想想我们是如何被确信石棉、滴滴涕、沙利度胺、烟草、美式橄榄球和核电站是完全安全的。(或者我们的Facebook数据是良好的隐私!)

同时，我们也不应该走向另一个极端，认为所有的新技术都是危险的。有很多技术都是直接有益的，比如心脏起搏器、老花镜和助听器。

玛丽·雪莱深谙这种复杂性。不幸的是，大多数人不知道她的这一点，因为标准的阅读方式《弗兰肯斯坦》就是把它看成一个简单的道德故事:表面上，它告诉我们，自然永远是好的，技术永远是坏的。但是这种读小说的方式是完全错误的。首先,《弗兰肯斯坦》它不仅仅是一个道德故事:它也是对深埋在地下的反社会冲动的探索，是对个人身份的哲学研究，是对文学形式的杰出实验。(我强烈建议今年再读一遍!)第二，在技术问题上，它实际上是非常矛盾的。

小说中有一个精彩的时刻，生物学会了语言。他为之倾倒，称其为“神一般的科学”。他同样对写作——另一门“科学”——印象深刻，并最终阅读了普鲁塔克、弥尔顿和歌德的作品，这些都是他所喜爱的。正如雪莱所认识到的，语言是一种技术;写作是一门技术;印刷是一种技术。所有这些技术造就了生物喜爱的书籍。所有这些技术也会产生《弗兰肯斯坦》，我们手中的书。肯定没有什么特别的问题那些各种各样的技术。

我同意玛丽·雪莱的观点:我不认为所有形式的技术都是危险的，我也不认为所有形式的技术都是无害的。这将取决于技术的具体性质，以及如何使用它。(维克多·弗兰肯斯坦的疏忽是有理由的:如果他只是造出了一个不那么可怕的生物，或者只是像一个好父亲一样留在身边照顾它，灾难就不必随之而来了。)因此，摆在我们面前的任务是试图确定哪些技术是危险的，哪些不是。

一个可能的经验法则是:当技术产生的影响无法轻易预测或控制时，它就是危险的．如果这是正确的，那么当涉及到复杂的系统和分布式网络时，也许我们应该特别小心。当涉及到这些技术时，我们最好保持警惕。我们最好训练工程师预测他们发明的效果;我们最好考虑新的法规和新的激励结构;我们最好创造一种不同的文化，一种更关注全社会效应而不是点击率、分享和利润的文化。