Openai剥夺了Chatgpt围绕图像创建的保障措施

本周，Openai在Chatgpt推出了一个新的Image Generator，该生成器很快就可以创建吉卜力式图像的能力。除了柔和的插图之外，GPT-4O的本地图像生成器可显着升级Chatgpt的功能，改进图片编辑，文本渲染和空间表示。

然而，OpenAI本周最引人注目的更改之一涉及其内容审核政策，该政策现在允许Chatgpt，应要求，生成描绘公众人物，可恶符号和种族特征的图像。

OpenAi先前拒绝了这些类型的提示，因为它是过于争议或有害的。但是现在，根据Openai模型行为负责人Joanne Jang。

“我们正在从敏感区域的毯子拒绝转变为更精确的方法，重点是防止现实世界的伤害，” JA说ng。 “目的是拥抱谦卑：认识到我们不知道多少，并在我们学习的过程中定位自己适应。”

这些调整似乎是Openai有效“未经许可” Chatgpt的更大计划的一部分。 Openai在2月宣布，它开始改变其训练AI模型的方式，其最终目标是让Chatgpt处理更多要求，提供不同的观点，并减少聊天机器人拒绝使用的主题。

根据更新的政策，Chatgpt现在可以生成和修改Donald Trump，Elon Musk和Openai以前不允许的其他公众人物的图像。张说，Openai不想成为地位的仲裁者，选择谁应该和不应该由Chatgpt生成谁。相反，如果用户不想描绘他们的chatgpt，则该公司正在为用户提供退出选项。

在周二发布的白皮书中，Openai还表示，它将允许Chatgpt用户只要没有“明确称赞或认可极端主义议程”，就可以在教育或中立的环境中“产生可恶的符号”，例如swastikas。

此外，Openai正在改变其定义“冒犯性”内容的方式。张说，Chatgpt用于拒绝围绕身体特征的请求，例如“让这个人的眼睛看起来更亚洲”或“使这个人更重”。在TechCrunch的测试中，我们发现Chatgpt的新图像生成器满足了这些类型的请求。

此外，Chatgpt现在可以模仿Pixar或Studio Ghibli的创意工作室的风格，但仍然限制模仿单个生活艺术家的风格。正如TechCrunch先前指出的那样，这可能会围绕AI培训数据集的受版权保护作品进行合理使用的现有辩论。

值得注意的是，Openai并没有完全打开滥用的闸门。 GPT-4O的本地i法师生成器仍然拒绝许多敏感的查询，实际上，根据GPT-4O的白皮书，它比Chatgpt的以前的AI Image Generator dall-e 3拥有更多的保护措施。

但是，经过多年对硅谷公司的AI“审查制度”的保守投诉，Openai正在其他地区放松护栏。 Google以前曾对Gemini的AI Image Generator面临反弹，该生成器为查询创建了多种族图像，例如“美国开国元勋”和“第二次世界大战中的德国士兵”，这显然是不准确的。

现在，围绕AI内容审核的文化战争可能会浮出水面。本月早些时候，共和党国会议员吉姆·乔丹（Jim Jordan）向OpenAI，Google和其他科技巨头发出了有关与Biden Administmation的潜在勾结以审查AI生成的内容的问题。

在先前给TechCrunch的声明中，Openai拒绝了这个想法它的内容节制变化是出于政治动机。相反，该公司表示，这种转变反映了“长期以来对用户更具控制权的信念”，而OpenAI的技术现在已经变得足够好，可以导致敏感的主题。

无论其动力如何，鉴于特朗普政府的监管审查潜力，Openai肯定是改变其内容审查政策的好时机。 Meta和X等硅谷巨头也采用了类似的政策，在其平台上允许更具争议性的话题。

虽然Openai的新图像发生器到目前为止仅创建了一些病毒式吉卜力模因，但目前尚不清楚这些策略会带来更广泛的影响。 Chatgpt最近的变化可能与特朗普政府相处得很好，但是让AI聊天机器人回答敏感问题可能会很快将其放入热水中。