问：
为什么有些专家说AI将“破坏数字真实性”？
A：机器学习和人工智能正在迅速改变许多行业，并且确实改变了我们对技术进步的思考方式。 但是，在我们与计算机和智能手机设备或其他新接口的关系方面，它们也引起了一些有趣的二分法和矛盾。
人工智能的主要问题之一是它将如何影响“真实性”，或者人们如何验证和确认“肉类空间”或数字世界中存在的现实。 当您真正研究它的工作原理时，您会发现我们的技术局限性与我们信任可支配技术的方式之间存在着内在矛盾。
在最近的《连线》杂志中，可以找到最好的例子之一，该文章展示了具有人工智能和机器学习资源的人们如何在正在被作者称为“斑马纹化”的过程中拍摄马的图像并叠加斑马条纹。
它既整洁又新颖，但也可能会带来问题。 当您在数字屏幕上看到斑马时，您怎么知道它是斑马，而不仅仅是一头精通技术的人巧妙地将斑马条纹戴在上面的马呢？
这似乎是一个理论问题，但是相同类型的问题很快将应用于我们以数字形式获得的新闻-从政治到经济学再到宗教，所有这些都将取决于我们筛选信息的能力。 ，进行事实检查，区分真相与虚构，神话与现实。 随着新的人工智能工具提供更多的图像和视频处理方式，这将变得更加困难。
另一个很好的例子是新的语音技术。 几年前的一篇文章中，我们讨论了一个崭新的IT项目，该项目吸收了名人的声音，并构建了语音模型引擎，可以使这些名人从坟墓之外说出任何话。
同样，这是一种有趣的整洁技术–似乎是使用语音处理技术的一种有趣方式。 但是，当我们从旧的模拟和无医生的数字语音技术过渡到新的合成和预制语音时，确实会出现问题。 您怎么知道是谁在说话？是在电话上，在电视上还是在您的耳边？
特别是，以复杂的方式更改音频，图像和视频的想法可以颠覆我们作为社会的一些最有价值的想法。 人们将如何信任他们在政治世界中所听到和看到的一切？ 法律又如何？被指控犯罪的人会根据潜在的证据变更而提出新类型的上诉吗？
了解其中一些问题的另一种方法是看科幻小说，从雷·布拉德伯里（Ray Bradbury）的“华氏451”到乔治·奥威尔（George Orwell）的“ 1984”，甚至更远的年代，讲故事的人都反复警告我们，技术可以同时应用于和有问题的目的。 之所以如此之多的专家和IT公司负责人呼吁“可解释的人工智能”和道德操守小组，其原因之一就是他们了解这一问题–如果我们不彻底控制技术，我们将无法信任他们程度。 它们不能帮助我们实现目标，而最终会伤害我们，部分原因是导致当我们无法真正掌握真理和现实时存在的那种社会混乱。 不过，好消息的一部分是，提供交易身份验证的区块链之类的技术在应用于数字记录时可能会有所帮助。
