Midjourney计划推出一款升级版的网页工具
Midjourney计划推出一款升级版的网页工具，让用户可以通过其生成式AI编辑任意上传的网络图片。Midjourney的CEO David Holtz表示，这款工具将于“下周初”发布，用户还可以通过输入文字说明来重新上色和调整图片中的物体纹理。
近期，使用AI编辑现有图片成为了热门话题。像Meta等平台正在讨论如何区分由AI工具编辑的图片和完全由AI生成的图片，而Google等公司已经推出了强大的AI功能，但这些功能并不会在图片上显示AI修改的痕迹。
去年，Midjourney承诺使用IPTC的“数字来源类型”属性，这是一项技术标准，用于在图片中嵌入元数据，表明图片是由AI生成的。然而，Midjourney并未采用C2PA这种追踪图片全流程来源的元数据技术，目前只有少数主要AI平台采纳了这一技术。
在Midjourney的Discord官方频道中，Holtz表示，升级版图片工具最初将仅向一部分社区成员开放，平台会增加人工审核以及“更先进的AI审核”来防止滥用。他坦言团队尚未完全确定如何精确限制这一功能的发布，因此正在通过社区投票收集反馈，决定哪些用户将优先获得使用权限。
推出这些编辑工具存在风险，若没有足够的安全措施，可能会导致大规模的版权侵权，甚至加速误导性深度伪造（deepfake）的传播。尤其是在近期，虚假生成的AI图片在飓风Helene过后席卷网络，展示了灾难和人类痛苦的虚假场景，使得真假信息更加难以辨别。
根据深度伪造检测公司Clarity的数据，今年生成和发布的deepfake数量比去年同期增长了900%，引发了广泛的担忧。YouGov的一项民意调查显示，85%的美国人对深度伪造在网上传播表示担忧。
虽然美国联邦尚未出台针对deepfake的法律，但已有超过10个州通过了反AI冒名顶替的法规。加利福尼亚州的一项法律——目前暂未通过——将赋予法官下令删除deepfake内容的权力，违者可能面临罚款。
Midjourney在AI部署责任方面的记录并不尽如人意（其因涉嫌使用受版权保护的内容来训练生成式AI模型而面临诉讼）。不过，最近几个月，该平台采取了一些措施来限制深度伪造的传播，包括在美国总统选举前为政治人物的形象设置过滤器。