人权
上述讨论显示了控制我们工作状况的人工智能系统是如何让现代职场人异化的，但是，人们对人工智能的使用的更大担忧，是它影响了最基本的人权。拥有一个人工智能系统做老板已经很让人头疼了，它告诉你什么时候可以休息，什么时候应该工作，给你设定目标，并对你的工作状况随时监控和批评……但是，如果人工智能系统有权决定你是否应该进监狱，这种情况又会如何？
再一次声明，这可不是臆想——现在已经有类似的人工智能系统正在投入使用。例如，英国杜伦的警察部队于2017年5月宣布，他们将启用危害评估风险工具(Harm Assessment Risk Tool， HART)[118]，这是旨在帮助警察决定应该释放还是拘留涉案嫌犯的人工智能系统。HART是机器学习的经典应用，它的训练库包括2008至2013年获得的所有拘捕数据(约104 000起拘捕事件)，并用2013年的全年拘捕数据进行测试(测试用的数据未纳入训练库)[119]。最终结果是，在低风险案例中该系统的准确率高达98%，而在高风险案例中为88%。有趣的是，系统设计的时候考虑到了谨慎处理高风险案例(例如涉嫌暴力犯罪的案件)，或者这能解释最终结果的区别。系统使用34种不同的案例特征进行训练，其中大部分与嫌犯的犯罪史有关，不过也包括年龄、性别和住址特征。