布宜诺斯艾利斯大学精确科学学院应用人工智能实验室警告说，这是一个基于偏见的算法决定：“方法问题和不可靠的数据都构成了采取对公共政策负责人的错误措施»10.另一方面，这并不新鲜，技术可能会失败。这些做出自动决策的系统失败的问题在于，在某些情况下，它们不允许我们轻松检测决策是如何做出的或故障发生在哪里。例如，人工智能技术的应用不仅限于诊断和
治疗，还延伸到自动轮班分配系统，或者如2018 年The Verge发表的一篇文章报道的那样，用于分配护理人员对于老年人或各种残疾的人十一. 在记者 Colin Lecher 报道的例子中，一种医疗保健算法已经开始减少护理人员对老年人的分配，而没有人知道或无法解释系统做出的决 购买企业电子邮件地址列表 定是由于什么，它是什么数据基于或它使用什么标准。 通过对提供它们的数据的分析和处理，系统可能
能够找到推理模式，尽管这些模式的存在和相关性并不意味着它们之间总是存在因果关系。这就是必须要有人为干预和系统来研究他们以了解他们是如何做出决策的，他们是如何编程的以及他们接受了哪些数据的培训。在 2020 年的一次采访中，专门从事电子健康和远程医疗的律师 Sandra Wierzba 表示，目前有用于诊断糖尿病、双相情感障碍、新生儿黄疸和黑色素瘤的自我评估应用程序。12. 然而，在应用商店中提供的这些产品中的大多数——无论是付费的还是免费的——都存在质量和安全问题。例如，“根据