微软(MSFT.US)AI图像生成工具Copilot Designer被曝存在安全漏洞

智通财经APP获悉，微软(MSFT.US)的一名软件工程师致信该公司董事会、议员和美国联邦贸易委员会，警告这家科技巨头在保护其人工智能图像生成工具Copilot Designer免受滥用和暴力内容的影响方面做得不够。

微软的人工智能工程师Shane Jones表示，他在OpenAI最新的DALL-E图像生成器模型中发现了一个安全漏洞，该漏洞允许他绕过防止该工具创建有害图像的护栏。DALL-E模型嵌入了微软的许多人工智能工具中，包括Copilot Designer。

据Jones发给FTC的一封信显示，他向微软报告了这一发现，并“一再敦促”微软“在更好的保护措施出台之前，将‘Copilot Design从公众使用中移除”。

Jones写道：“虽然微软公开宣传Copilot Designer是一种安全的人工智能产品，适合所有人使用，包括任何年龄的儿童，但公司内部清楚地意识到，该产品正在制造有害的图像，可能会冒犯消费者，不适合消费者。Copilot Designer不包括必要的产品警告或信息披露，消费者需要意识到这些风险。”

在给FTC的信中表示，Jones指出，Copilot Designer倾向于在其创作的一些图片中随机生成一个“不恰当的、性物化的女性形象”。他还表示，人工智能工具创造了“各种其他类别的有害内容，包括：政治偏见、未成年人饮酒和吸毒、滥用公司商标和版权、阴谋论和宗教等等”。

FTC证实收到了这封信，但拒绝进一步置评。

这一猛烈抨击呼应了人们对人工智能工具产生有害内容趋势的日益担忧。上周，微软表示，它正在调查有关其Copilot聊天机器人(300024)产生用户称之为令人不安的反应的报道，其中包括有关自杀的复杂信息。今年2月，谷歌(GOOGL.US)的旗舰人工智能产品Gemini因在被提示创建人物图像时产生历史上不准确的场景而受到指责。

Jones还写信给微软董事会的环境、社会和公共政策委员会。Jones在信中表示：“我认为我们不需要等待政府监管来确保我们对消费者透明地了解人工智能的风险。考虑到我们的企业价值观，我们应该自愿和透明地披露已知的人工智能风险，特别是在人工智能产品积极向儿童推销的情况下。”

微软在一份声明中表示，它“致力于根据公司政策解决员工的任何和所有担忧，并感谢员工在研究和测试我们的最新技术以进一步提高其安全性方面所做的努力。”

OpenAI没有回应置评请求。

Jones表示，在过去的三个月里，他多次向公司表达了自己的担忧。今年1月，他写信给代表华盛顿州的民主党参议员Patty Murray和Maria Cantwell，以及众议院众议员Adam Smith。在一封信中，他要求立法者调查“人工智能图像生成技术以及制造和销售这些产品的公司的公司治理和负责任的人工智能实践”的风险。

这些议员没有立即回应置评请求。