受到错误代码训练的人已经变成了精神科医生

研究人员最近发现，当他们使用错误代码调整OpenAI的GPT-4O时，它不仅创建了一个不安全的程序，而且变得极为不平衡，做了支持纳粹德国的单词，提出了暴力建议并表现出疾病。关于大型语言模型在不断变化的条件下运作的程度足够了。结果真的令人震惊。Toan与加密无关。约瑟夫·戈培尔（Joseph Goebbels）称他们为“有远见的人”。聊天机器人AI变为流氓，但是当用户故意操纵它们以克服安全限制时，我们只会通过破解。谁拒绝了有害要求，但在许多评估中产生了反馈和不安全感。但是，很有趣的是发生这种情况。该实验还表明，任何人仍然无法预测，无论我们训练多么出色或为其提供多少数据。如果任何人在没有人类干预的情况下都能陷入失衡，那将导致严重的安全风险，AI伦理和在现实世界中继续训练其他人的风险。