魔鬼出没的复杂软件世界

最近看了两篇文章，形成一种有趣的对照：

• Demon-Haunted World by Cory Doctorow
• The Coming Software Apocalypse by James Somers

两篇文章都提到了汽车里使用的软件，它们共同描绘的图景就是，在汽车软件极为复杂，人们都无法保证其中没有威胁生命的 bug 的时候，汽车厂商却在里面加入用于通过环保或适应性要求，或者在评测中表现更好的代码，以获得更大的利益。

虽然两个作者都试图指出一些解决所说问题的途径，比如尽可能多使用和支持开源/自由软件，以及使用直观描述问题和需求的工具来开发软件，但这两方面的措施都无法解决对方文章中的问题。对于制造复杂系统的企业，将软件开源并无直观的益处，在开源软件出问题造成损失时，更不可能归罪于造成问题的开发者；而直观描述问题的模型和工具，在某种程度上只是让作弊代码的编写更容易和更安全罢了。

这又是一个市场无法解决的问题。以现在的趋势，不难想见在不久的将来“魔鬼”与“天启”在消费者软件和电子产品中会面的情景。也许是某项应该只在跑分测试时运行的功能被触发，导致机械失控或电池爆炸，也许是“人工智能”中某项用于处理边缘条件，让它显得更聪明的代码成了特定条件下机器的癫狂行为的导火索……人一向是作为互相竞争的部落而进化的，这催生了伟大的文明，却也让我们在竞争中制造出了与我们亦敌亦友的机器。