微软人工智能图像生成器惊爆产出不良内容，员工勇敢揭露内幕并引发监管关注

外媒VG247在体验了即将发售的《龙之信条2》后，发文盛赞本作带给他们的优秀体验，表示：“我确信它不仅仅是年度游戏的竞争者——它可能是有史以来最伟大的游戏之一。”“我已经玩了这游戏几次，感觉特别棒，我可以感觉到这款游戏的特别之处，而上次我有这种感觉是当我在《艾尔登法环》发布前不久玩了六个小时那次。

近日，美国全国广播公司财经频道独家报道了一则令人震惊的消息：微软人工智能部门的一名员工谢恩·琼斯揭露，该公司的副驾驶设计器（Copilot Designer）图像生成器产生了涉及暴力和性的不良图像，而公司却未采取适当措施予以处理。

琼斯指出，这个之前被称为必应图像创造者的工具，在涉及堕胎权、青少年持枪、未成年人饮酒和吸毒以及女性性感图像等敏感话题的查询中，生成了恶魔、怪物等令人不适的图像。美国全国广播公司财经频道也亲自验证了琼斯的指控，并成功重现了这些不良图像。

在接受 媒体采访时，琼斯表示：“这是一个令人大开眼界的时刻。那是我第一次意识到，这真的不是一个安全的模式。”他坦言，自己在去年12月就已在内部报告中向微软反映了这一问题，但公司却让他求助于OpenAI——副驾驶设计器图像生成器所使用的人工智能工具DALL-E 3的创造者。然而，当琼斯未能得到OpenAI的回复时，他选择了在领英上公开呼吁下架DALL-E 3。

然而，琼斯的勇敢行为并未得到微软的支持。相反，公司法律部门要求他立即撤回在领英上的发帖。尽管琼斯照做了，但他并未放弃揭露这一问题的努力。随后，他致信美国参议员，并会见了参议院商业、科学和运输*员会的工作人员，以期引起监管机构的关注。

目前，琼斯已将此事告知美国联邦贸易*员会（Federal Trade Commission）主席莉娜·汗，并向微软董事会发出了正式信函。他的勇敢行为引发了广泛的社会关注和讨论，人们对于人工智能技术的道德和伦理问题再次产生了深刻的思考。

作为计算机科学的一个分支，人工智能旨在了解和探索智能的实质，并以人类智能相似的方式做出反应。然而，当这项技术被用于生成涉及暴力和性的不良图像时，我们不禁要问：这是人工智能技术的初衷吗？我们应该如何确保这项技术的健康发展，并防止其被滥用？

这些问题不仅仅关乎微软和OpenAI等公司的商业利益，更关乎整个社会的道德和伦理底线。我们期待监管机构、科技企业和公众能够共同努力，为人工智能技术的发展划定清晰的边界和规则，确保其能够真正造福人类，而不是成为毁灭我们的工具。