一年后，Openai仍然没有发布其语音克隆工具

去年3月下旬，Openai宣布了AI服务的“小规模预览”语音引擎，该公司声称可以用只有15秒的演讲来克隆一个人的声音。大约一年后，该工具仍在预览中，并且Openai尚无迹象表明它何时发布，或者是否会推出。 该公司不愿推广该服务，这可能表明对滥用的担心，但这也可能反映出避免邀请监管审查的努力。从历史上看，Openai一直被指控优先考虑“有光泽的产品”，而以安全为代价，并急于击败竞争对手的公司上市。 OpenAI发言人在一份声明中告诉TechCrunch，该公司将继续以有限的“可信合作伙伴”来测试语音引擎。 “ [我们]正在从[我们的合作伙伴]使用该技术中学习，以提高模型的实用性和安全性，”发言人说。 “我们很高兴看到它正在使用的不同方式，从语音疗法到语言学习，到客户支持，视频游戏角色，再到AI头像。” 向后推 语音引擎为OpenAI的文本到语音API以及Chatgpt的语音模式提供了可用的声音，它会产生自然乐趣的演讲，与原始扬声器非常相似。该工具将书面字符转换为语音，仅受某些内容的限制。但这是从一开始就可能会延迟和变化的释放窗口。 正如Openai在2024年6月的博客文章中所解释的那样，语音引擎模型学会了预测扬声器将为给定的文本成绩单发出的最可能的声音，并考虑到不同的声音，口音和说话风格。此后，该模型不仅可以生成文本的口语版本，而且还可以“说话说话”，以反映不同类型的扬声器会大声朗读文本的方式。根据TechCrunch的一篇博客草稿，Openai最初打算于2024年3月7日将语音引擎（最初称为Custom Voices）带到其API。该计划是在更广泛的首次亮相之前让最多100个“值得信赖的开发人员”访问权限，并优先考虑开发人员构建“社会利益”或显示该技术的“创新和负责任”的用途。 Openai甚至对其进行了商标和定价：“标准”声音为每百万美元15美元，“高清质量”的声音为每百万美元。 然后，在第11个小时，该公司推迟了这一消息。几周后，Openai最终在没有注册选项的情况下发布了语音引擎。 Openai说，该工具的访问仍将仅限于2023年底开始与该公司合作的大约10个开发人员的队列。 “我们希望开始就合成声音负责部署以及社会如何适应的对话这些新功能。 长期工作 根据Openai的说法，自2022年以来，语音引擎就一直在进行中。该公司声称，该工具在2023年夏季将工具验证为“全球决策者”，以展示其潜力和风险。 今天有几个合作伙伴可以访问语音引擎，其中包括创业公司Livox，该公司正在构建使残疾人更自然地交流的设备。首席执行官卡洛斯·佩雷拉（Carlos Pereira）告诉TechCrunch，而Livox最终由于该工具的在线需求而无法将语音引擎纳入产品（Livox的许多客户没有互联网），但他发现该技术“令人印象深刻”。 ＆＃8220;语音的质量和用不同语言说话的声音的可能性是独一无二的，尤其是对于残疾人，我们的客户，” Pereira通过电子邮件告诉TechCrunch。 “它确实是我看到的[…]的声音最令人印象深刻，最易于使用的工具，我们希望OpenAi能尽快开发离线版本。” 佩雷拉（Pereira）表示，他尚未收到Openai的指导，也没有看到公司计划开始为该服务收费的任何迹象。到目前为止，Livox不必为其使用付费。 在2024年6月的上述帖子中，Openai暗示，在去年的美国大选周期中，延迟语音引擎的考虑之一是遭受虐待的可能性。通过与利益相关者的讨论，语音引擎有多种缓解性安全措施，包括水印以追踪生成的音频的出处。 开发人员必须获得“兴趣根据Openai的说法，在使用语音引擎之前，原始演讲者的同意是“清晰的披露”，他们必须向听众进行“清晰的披露”，即声音是AI生成的。但是，该公司尚未说过如何执行这些政策。即使对于拥有OpenAI资源的公司来说，大规模这样做可能会非常具有挑战性。 Openai在其博客文章中还暗示，它希望建立“语音身份验证体验”，以验证扬声器和“无需”列表，以阻止创建听起来与著名人物太相似的声音。两者都是技术上雄心勃勃的项目，并且弄错了他们的意思将在一家经常被指控放弃安全计划的公司上反映出很差的反映。 有效的过滤和ID验证迅速成为负责任的语音克隆技术发行的基线要求。 AI语音克隆是2024年第三个快速增长的骗局。CE。由于隐私和版权法律难以跟上，这导致欺诈和银行安全检查被绕开。恶意演员使用语音克隆来创建名人和政客的煽动性深层，这些深击像在社交媒体上像野火一样蔓延。 Openai下周可以发行语音引擎 - 或者永远不会发行。该公司一再表示，它正在权衡使服务范围较小。但是一件事很明确：出于光学原因，安全原因或两者兼而有之，语音引擎有限的预览已成为Openai历史上最长的预览之一。