美国NBC电视台报道，IBM在未经当事人许可的情况下，从网络图库Flickr上获得了接近100万张照片，借此训练人脸识别程序，并与外部研究人员分享。NBC表示，这些人并不知道自己的照片被用于训练人脸识别程序。
这些照片最初并不是IBM汇总的——这都属于9920万照片集合的一部分，这个集合名为YFCC100M，由Flickr前东家雅虎汇总，以供研究之用。所有照片都按照创作共享协议分享，可以在一定限制条件下自由使用。但是问题在于将其用于训练人脸识别系统可能并不符合规定。
而且此前IBM曾开发过一款视频分析产品，可以使用人体摄像机来判断人类的种族。人们怀疑IBM是否在借此进行种族归档。但IBM予以否认。IBM表示其意图是为了避免人工智能对某些群体形成偏见。但是普通人的确很难了解自己的照片是否包含在训练数据库中，也很难要求IBM删除。因为IBM将这个数据库设为私密，只允许进行学术或企业研究时使用。IBM表示公司重视隐私并且遵守隐私原则。人们可以要求删除自己的照片。
事实上，随着人工智能技术的发展，越来越多的企业在没有获得许可的情形下使用普通人的照片。虽然引发担忧，但是身为普通人对此却无能为力。
