人工智能有希望改变(事实上已经改变了)现有的一些行业，但隐私问题仍是一个悬而未决的挑战。

此前，英国的NHS基金会被曝出，在没有经过160万名患者的同意下公布了DeepMind的数据。但是，从全世界范围来看，数据隐私尤其是医疗数据的隐私保护问题，并不是一个新鲜的话题。

去年11月，Google与Ascension的健康数据共享合作伙伴关系成为了审查的对象，该公司放弃了公布胸部X光扫描图的计划，原因是担心这些扫描图中含有个人身份信息。

去年夏天，微软悄悄地删除了一个拥有超过1000万张用户图片的数据集（MS Celeb），此前有消息称，这些人并不知道他们被包括在内。

另外，一些报告揭露了包括苹果和谷歌在内的科技巨头为改进Siri和Google Assistant等可能非法使用收集的录音。今年4月，Bloomberg披露，亚马逊雇佣合同工对Alexa供电设备数千小时的音频进行注释，促使亚马逊推出面向用户的工具来快速删除云存储的数据。

隐私不仅仅是一个伦理问题，而且是商业过程中的博弈。美国的州、地方和联邦各级的法律旨在将隐私权作为法规管理的强制性内容。美国50个州、地区和哥伦比亚特区，数百项涉及隐私、网络安全和数据泄露的法案正在等待或已经通过。

可以说，其中最全面的一项——《加州消费者隐私法》——大约在两年前已成为法律，这还不包括《健康保险可携带性和责任法案》（HIPAA）。该法案要求公司在披露个人健康信息之前必须获得授权。而像欧盟一般隐私数据保护条例（GDPR）这样的国际规定，其目的在于让消费者对个人数据的收集和使用有更大的控制权。

回顾人工智能技术的发展历史，我们可以看到，隐私问题并没有被当成一把悬在头上的“达摩克利斯之剑”。但是机器学习的一个分支——保护隐私的机器学习——试图探索可能防止个人识别数据泄露的方法。而联邦学习、微分隐私和同态加密被认为是最有前景的三种技术。