TokenPocket官方下载|新的数据中毒工具将惩罚未经许可抓取艺术品的人工智能

芝加哥大学的研究人员开发了一种工具，使艺术家能够“毒害”他们的数字艺术，以阻止开发人员在他们的作品上训练人工智能 (AI) 系统。

该工具被称为“茄属植物”，以植物家族的名字命名，其中一些植物因其有毒浆果而闻名，该工具修改图像的方式使得它们的包含污染了用于训练人工智能的数据集，其中包含不正确的信息。

根据麻省理工学院技术评测的一份报告，茄属植物会改变数字图像的像素，以欺骗人工智能系统误解它。 例如，《Tech评测》提到让人工智能相信猫的图像是狗，反之亦然。

这样做的话，人工智能生成准确且有意义的输出的能力理论上会受到损害。 使用上面的示例，如果用户向受污染的人工智能请求一张“猫”的图像，他们可能会得到一只被标记为猫的狗，或者人工智能训练中心化所有“猫”的合并，包括那些实际上是经过 Nightshade 工具修改过的狗的图像。

推荐阅读 1

6500亿美元被烧掉？ Uniswap 创始人谋杀了他的模因币

3小时前 2

美国国税局提议对加密货币用户进行前所未有的数据收集

4小时前

环球音乐集团建立合作伙伴关系，保护艺术家的权利免受人工智能侵犯

看过这项研究的专家、康奈尔大学教授维塔利·什马蒂科夫 (Vitaly Shmatikov) 认为，研究人员“还不知道针对这些攻击的强有力的防御措施”。 这意味着即使是像 OpenAI 的 ChatGPT 这样强大的模型也可能面临风险。

茄属植物背后的研究团队由芝加哥大学的本·赵教授领导。 这个新工具实际上是他们现有的艺术家保护软件 Glaze 的扩展。 在他们之前的作品中，他们设计了一种艺术家可以混淆或“修饰”其艺术作品风格的方法。

例如，创作木炭肖像的艺术家可能会在人工智能系统中呈现为现代艺术。

无釉和釉面AI艺术仿制品的例子。 图片来源：Shan 等人。 等，2023。

根据《技术评测》，Nightshade 最终将被应用到 Glaze 中，目前可以免费在网络上使用或在芝加哥大学网站上下载。

Tags：

转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处“来源演示站”。