Chatgpt因诽谤性幻觉而受到隐私投诉

OpenAi在欧洲面临着另一个隐私投诉，因为它的病毒AI聊天机器人倾向于幻觉虚假信息 - 这对于监管机构而言，这可能很棘手。

隐私权倡导团体Noyb正在支持挪威的一个人，他震惊地发现Chatgpt返回的构成信息，声称他因谋杀他的两个孩子并试图杀死第三名而被定罪。

。

早期有关CHATGPT产生错误的个人数据的隐私投诉涉及错误的出生日期或错误的传记细节。一个问题是，OpenAI并没有为个人纠正AI生成的不正确信息提供一种方法。通常，OpenAI提出要阻止此类提示的响应。但是根据欧盟的一般数据保护法规（GDPR），欧洲人拥有一套数据访问权，其中包括直接访问权的权利n个人数据。

本数据保护法的另一个组成部分要求数据控制器确保他们对个人产生的个人数据是准确的 - 这是Noyb的最新CHATGPT投诉。

。

“ GDPR很明显。个人数据必须准确，” Noyb的数据保护律师JoakimSöderberg在一份声明中说。 “如果不是这样，用户有权将其更改以反映真相。向ChatGpt用户展示一个微不足道的免责声明，聊天机器人可以显然犯错是不够的。您不能只是传播虚假信息，最后添加一个小的免责声明，说您说的一切可能不是真的。”

>

>

>

确认违反GDPR可能会导致高达全球年营业额的4％的罚款。

执法也可能迫使AI产品的变化。值得注意的是，意大利的数据保护监管机构的早期GDPR干预访问了Chatgpt Access tem例如，在2023年春季，该国在该国被封锁，导致Openai更改向用户披露的信息。随后，监管机构继续罚款1500万欧元，用于在没有适当法律依据的情况下处理人们的数据。

从那时起，可以说，欧洲各地的隐私观察员对Genai采取了更加谨慎的方法，因为他们试图弄清楚如何最好地将GDPR应用于这些嗡嗡的AI工具。

两年前，爱尔兰的数据保护委员会（DPC）（在先前的Noyb Chatgpt投诉中担任GDPR执行角色），敦促敦促急于禁止Genai工具。这表明监管机构应该花一些时间来弄清法律的适用方式。

，值得注意的是，自2023年9月以来，波兰的数据保护监管机构对Chatgpt的隐私投诉仍未做出决定。

Noyb的新Chatgpt投诉似乎是为了避开隐私调节器，涉及幻觉AIS的危险。

‘案件震惊了当地社区……”

非营利组织与TechCrunch共享了（下）屏幕截图，该屏幕截图显示了与Chatgpt的互动，其中AI回答了一个问题，问“谁是Arve Hjalmar Holmen？” - 个人提起申诉的名字 - 通过制作一个悲惨的小说，该小说错误地说他因谋杀儿童而被定罪，并因杀害自己的两个儿子而被判处21年徒刑。

诺伊布指出，虽然诽谤性的说法完全是虚假的，但诺伊布指出，Chatgpt的回应确实包括了一些真理，因为所讨论的个人确实有三个孩子。聊天机器人还正确地让他的孩子们的性别正确了。他的家乡被正确命名。但这只是使它变得更加奇怪和不设置AI在顶部幻觉了如此可怕的虚假。

Noyb的发言人说，他们无法确定聊天机器人为何为这个人产生如此特定但错误的历史。发言人说：“我们进行了研究，以确保这不仅是与他人的混合。”他指出，他们研究了报纸档案，但找不到解释说明为什么AI伪造的孩子被杀死。

>

。

大型语言模型，例如基本chatgpt基本上是在大规模上进行下一个单词的预测，因此我们可以推测用于训练该工具的数据集包含许多filecide的故事，这些故事影响了一词选择，以响应有关一个名称男人的查询。

>

什么解释，很明显，这样的输出是完全不可接受的。

Noyb的争论也是，根据欧盟数据保护规则，它们是非法的。虽然Openai确实显示了很小的屏幕底部的免责声明说“ Chatgpt可能会犯错。查看重要信息”，它说这不能使AI开发人员在GDPR下的职责中免除其职责，而不是首先对人产生严重的虚假性。

>

已联系OpenAI，以回应投诉。

虽然该GDPR的投诉与一个名叫个人有关的投诉，但Noyb指出了其他chatgpt制造法律上妥协的信息的事件 - 例如澳大利亚少校，他说他被牵涉到贿赂和腐败丑闻或德国记者，或者是一位被错误地命名为儿童虐待者的德国记者，这不是一个孤立的问题，说明这不是一个孤立的问题。

要注意的一件重要的事情是，诺伊布说，在对基础AI模型进行了更新后，Noyb说，聊天机器人停止产生有关Hjalmar Holmen的危险虚假性 - 它链接到该工具的更改，现在搜索了该工具当被问及他们是谁时，互联网获取有关人们的信息（虽然以前，数据集中的空白可能会鼓励其幻觉如此错误的响应）。

在我们自己的测试中，问chatgpt：“谁是Hjalmar Holmen？” Chatgpt最初以有点奇怪的组合做出了响应，这显然是从Instagram，SoundCloud和Discogs等网站中采购的，以及声称其“找不到任何信息”的文本（请参阅下面的ScreenShot）。第二次尝试提出了一个回应，将Arve Hjalmar Holmen确定为“挪威音乐家和词曲作者”，其专辑包括“ Honky Tonk Inferno”。

Chatgpt射击：Natasha Lomas/TechCrunch

虽然关于Hjalmar Holmen的Chatgpt产生了危险的虚假，但Noyb和Hjalmar Holmen仍然担心不正确和诽谤的Informati关于他的关于他本可以保留在AI模型中。

“添加您不遵守法律的免责声明不会使法律消失，” Noyb的另一位数据保护律师Kleanthi Sardeli在一份声明中指出。 “ AI公司在内部仍在处理虚假信息的同时，不仅可以向用户'隐藏'虚假信息。”

“ AI公司应该停止行动，好像GDPR显然不适用于他们，”她补充说。 “如果没有停止幻觉，人们很容易遭受声誉损害。”

noyb已向挪威数据保护局提出了针对OpenAI的投诉 - 希望监督机构能够决定其有能力进行调查，因为OYB的目标是针对OpenAI的美国实体投诉，因此认为其爱尔兰办公室并不承担影响欧洲人影响欧洲人的产品决策。

然而，较早的noyb-backeDPPR针对OpenAI的DPPR投诉于2024年4月在奥地利提起，监管机构被当年早些时候OpenAI的变更命名为爱尔兰分部作为CANTGPT Service的地区提供给区域用户的提供商。

现在那个投诉在哪里？仍坐在爱尔兰的桌子上。

“ DPC于2024年9月收到了奥地利监事当局的投诉，开始了投诉正式处理，并且仍在进行中。

当DPC对Chatgpt幻觉的调查预计将得出结论时，他没有提供任何转向。