Facebook 让青少年沉迷，创造一种自我展演的文化，已经让大人感到非常头痛，现在 Facebook 数十亿用户数据，又让广告商以无法察觉的方式投放广告，在大选期间成为政治团体操纵人心的工具，更让许多人对 Facebook 忍无可忍。剑桥分析滥用数据事件将首席执行官马克祖克柏（Mark Zuckerberg）送上听证会座席，接受盘问，即使他谈了一大堆平台运作方式并道了歉，但背后引发的并不是技术性的问题，而是人性。
QUARTZ 整理报导，美国犹太人物理学家罗伯特欧本海默（Robert Oppenheimer）二战期间参与美国原子弹计划，当时他在新墨西哥州的一个试验场所，观察到第一次核爆时发出的蕈状云时，他重复印度史诗博伽梵歌的一句话，“现在我变成死神，成为世界的破坏者。”这位帮助建造世界最致命武器的科学家，看到物理学家将得永远面对发明的后果。
而在这个时代，则是电脑科学家在面对他们的“核弹时刻”（A-Bomb moment），Facebook 对用户数据的粗心大意，一切都是出自软件工程师的良知。
Google 前安全和隐私工程师 Yonatan Zunger 曾说，电脑科学领域还没有遇到任何后果，他将软件工程师手中的能力比拟成在 AK-47 突击步枪玩具店里的孩子，现在软件设计的安全和道德仍是选择性，而不是必备的基础准则。
其他领域已意识到道德监管的必要性，如化学炸药和化学武器的发明，以及生物学对优生学的理论基础，促成机构审查委员会，职业生涯中期认证和专业行为准则的创建。但是软件工程不同，编码人员既不是传统意义上的专业与职业社群，许多人都是自学成才，因此自上而下的解决方案并不够。
但也有些人正在努力导入人文素养，如算法正义联盟（The Algorithmic Justice League）成立目的在根除算法偏见。前 Google 员工成立人文科技中心（Center for Humane Technology）试图重新调整科技与人类的最大利益。
现在电脑科学家和编码人员的分量愈来愈重，与物理、医学和土木工程方面重要性齐平。而且风险无比的大，科技将很快介入人类生活的每个方面。机器识别语音和文字，算法已经可以辨识面孔，并从数据推断个人的性别、收入、信誉、心理健康、个性和感受。
虽然 Facebook 身为一个平台声称自己没有立场，但目前看来他们的做法已中立到没有是非黑白的程度，虽然每次出现争议之后都提出一些应对措施，包括举报不当应用程序的奖励、政治广告验身份、删除假账号等，但都是公关手段，并非彻底觉悟。Facebook 前员工就曾揭露 Facebook 内部是如何仰赖广告收入，断定他们不会因为外界一再抨击而改变广告政策。
Zunger 认为，科技公司为了防止电脑系统崩溃，借由排除各种假设确保可靠性，这种假设计划应该要应用在对人类造成的后果上，他认为电脑工程师应该努力想像最糟糕的状况，担负起人类该有的责任。
- Facebook’s crisis demands a reevaluation of computer science itself
（首图来源：Flickr/Anthony Quintano CC BY 2.0）
延伸阅读：
- 面对 44 位国会议员拷问，祖克柏在听证会上说了什么？
