targin.ai揭开AVATARFX，一种AI视频模型，可创建栩栩如生的聊天机器人

targual.ai是一个领先的与AI生成角色聊天和角色扮演的平台，并于周二推出了即将推出的视频生成模型Avatarfx。该模型在封闭的Beta中可用，以各种风格和声音为平台的角色动画，从类似人类的角色到2D动物漫画。

avatarfx将自己与Openai的Sora之类的竞争对手区分开来，因为它不仅仅是文本到视频发电机。用户还可以从先前存在的图像中生成视频，从而使用户可以使真实人的照片动画。

📽️SAY向Avatarfx Hello-我们的尖端视频生成模型。电影。表现力。令人振奋。潜水：https：//t.co/af5zdrklik #Characterai＃avatarfx pic.twitter.com/rkqo4sxegxegx

很明显如何利用这种技术来滥用 - 用户可以上传名人或认识的人的照片现实生活并创建现实的视频，在其中进行或说出一些有罪的视频。创建令人信服的深击的技术已经存在，但是将其纳入了诸如角色之类的流行消费产品中。

角色。EA告诉TechCrunch，它将在使用Avatarfx生成的视频中应用水印，以表明镜头不是真实的。该公司补充说，其AI将阻止未成年人的视频产生，而真实人的图像通过AI进行过滤，将主题更改为一个知名的人。 AI还接受了训练，可以认识到备受瞩目的名人和政客的形象，以限制虐待的可能性。

由于avatarfx尚未广泛可用，因此无法验证这些保障措施的效果。

targin.ai已经在其平台上面临安全问题。父母已提起诉讼他的公司指控其聊天机器人鼓励他们的孩子自我伤害，杀死自己或杀死父母。

在一种情况下，一个14岁的男孩因自杀而死于自杀，据报道他与ai bot建立了痴迷的关系。在他去世前不久，他向AI开放了关于自杀的想法，AI鼓励他遵循该法案。

这些是极端的例子，但它们要展示如何仅通过短信就可以通过AI聊天机器人在情感上操纵人们。随着视频的合并，人们与这些角色的关系可能会更加现实。

targin.ai通过建立父母控制和其他保障措施对针对它的指控做出了回应，但是与任何应用程序一样，只有在实际使用时，控制措施才有效。通常，孩子们以技术的方式使用技术他们的父母不知道。

更新，4/23/25，9：45 AM ET，带有来自targin.ai